Google 无法抓取生成的 CSS 和源自自定义输出缓存的 JS 路径
Google can't crawl generated CSS and JS paths originating from Custom outputcache
我已经为我的网站设置了自定义输出缓存。一切都按预期工作,我可以看到包含二进制文件的缓存文件夹。当我访问该网站时,我得到了缓存的页面,它按应有的方式呈现。
问题是当我尝试使用Google站长工具渲染页面时,Google无法访问BundleConfig中生成的css路径~/bundles/styles/maincss/
,javascript 路径也是如此。`。当我访问这两个路径时,我看到了缩小的 JS 和 CSS 文件,并且浏览器确实正确呈现了页面。
这会带来一个问题,因为现在当我使用移动测试工具测试页面时,我发现这些页面不适合移动设备。出于某种原因 Google 无法访问这些路径,虽然当我 运行 在网站管理员工具中进行网络抓取时,它确实对用户呈现良好,但对 Google-bot 而言却不是。
这在我不使用自定义输出缓存时有效,仅使用默认的 Outputcache。
知道如何解决这个问题。
自定义输出缓存代码:
Web.config:
</connectionStrings>
<appSettings>
<add key="CacheLocation" value="~/Cache"/>
</appSettings>
<system.web>
<caching>
<outputCache defaultProvider="FileCache">
<providers>
<add name="FileCache" type="ProjectX.FileCacheProvider"/>
</providers>
</outputCache>
</caching>
缓存Class:
using System;
using System.Configuration;
using System.IO;
using System.Runtime.Serialization.Formatters.Binary;
using System.Web;
using System.Web.Caching;
namespace ProjectX
{
[Serializable]
public class CacheItem
{
public object Item { get; set; }
public DateTime Expiry { get; set; }
}
public class FileCacheProvider : OutputCacheProvider
{
private string CacheLocation
{
get
{
string strCacheLocation = ConfigurationManager.AppSettings["CacheLocation"];
strCacheLocation = HttpContext.Current.Server.MapPath(strCacheLocation);
return strCacheLocation + @"\";
}
}
private string GetFullPathForKey(string key)
{
string temp = key.Replace('/', '$');
return CacheLocation + temp;
}
public override object Add(string key, object entry, DateTime utcExpiry)
{
object obj = this.Get(key);
if (obj != null)
{
return obj;
}
else
{
this.Set(key, entry, utcExpiry);
return entry;
}
}
public override void Remove(string key)
{
string filePath = GetFullPathForKey(key);
if (File.Exists(filePath))
{
File.Delete(filePath);
}
}
public override object Get(string key)
{
string filePath = GetFullPathForKey(key);
if (!File.Exists(filePath))
{
return null;
}
CacheItem item = null;
FileStream fileStream = File.OpenRead(filePath);
BinaryFormatter formatter = new BinaryFormatter();
item = (CacheItem)formatter.Deserialize(fileStream);
fileStream.Close();
if (item == null || item.Expiry <= DateTime.UtcNow)
{
Remove(key);
return null;
}
return item.Item;
}
public override void Set(string key, object entry, DateTime utcExpiry)
{
string filePath = GetFullPathForKey(key);
CacheItem item = new CacheItem { Expiry = utcExpiry, Item = entry };
FileStream fileStream = File.OpenWrite(filePath);
BinaryFormatter formatter = new BinaryFormatter();
formatter.Serialize(fileStream, item);
fileStream.Close();
}
}
}
如果你想继续沿着这条路走下去(我假设你已经使用过 https://weblogs.asp.net/gunnarpeipman/asp-net-4-0-writing-custom-output-cache-providers as your starting point?), you will need to change GetFullPathForKey
so that it generates valid filenames. How to remove illegal characters from path and filenames? 可能会帮助你做到这一点。你还需要更改你的代码,以便它不会在两个线程时崩溃尝试同时写入同一个文件。此外,您确实应该引入 MemoryCache
的使用,以避免每次 Get
调用您的 class 时都访问文件系统。 这将是很多工作。
我建议考虑将这些 NuGet 包作为替代方案。他们开箱即用,并经过充分测试:
- https://www.nuget.org/packages/Microsoft.Web.RedisOutputCacheProvider/
- https://www.nuget.org/packages/CacheManager.Web/
或者只是在帮助缓存的 Web 服务器前面重击反向代理 - 例如http://mikehadlow.blogspot.com.au/2013/05/the-benefits-of-reverse-proxy.html .
我已经为我的网站设置了自定义输出缓存。一切都按预期工作,我可以看到包含二进制文件的缓存文件夹。当我访问该网站时,我得到了缓存的页面,它按应有的方式呈现。
问题是当我尝试使用Google站长工具渲染页面时,Google无法访问BundleConfig中生成的css路径~/bundles/styles/maincss/
,javascript 路径也是如此。`。当我访问这两个路径时,我看到了缩小的 JS 和 CSS 文件,并且浏览器确实正确呈现了页面。
这会带来一个问题,因为现在当我使用移动测试工具测试页面时,我发现这些页面不适合移动设备。出于某种原因 Google 无法访问这些路径,虽然当我 运行 在网站管理员工具中进行网络抓取时,它确实对用户呈现良好,但对 Google-bot 而言却不是。
这在我不使用自定义输出缓存时有效,仅使用默认的 Outputcache。
知道如何解决这个问题。
自定义输出缓存代码:
Web.config:
</connectionStrings>
<appSettings>
<add key="CacheLocation" value="~/Cache"/>
</appSettings>
<system.web>
<caching>
<outputCache defaultProvider="FileCache">
<providers>
<add name="FileCache" type="ProjectX.FileCacheProvider"/>
</providers>
</outputCache>
</caching>
缓存Class:
using System;
using System.Configuration;
using System.IO;
using System.Runtime.Serialization.Formatters.Binary;
using System.Web;
using System.Web.Caching;
namespace ProjectX
{
[Serializable]
public class CacheItem
{
public object Item { get; set; }
public DateTime Expiry { get; set; }
}
public class FileCacheProvider : OutputCacheProvider
{
private string CacheLocation
{
get
{
string strCacheLocation = ConfigurationManager.AppSettings["CacheLocation"];
strCacheLocation = HttpContext.Current.Server.MapPath(strCacheLocation);
return strCacheLocation + @"\";
}
}
private string GetFullPathForKey(string key)
{
string temp = key.Replace('/', '$');
return CacheLocation + temp;
}
public override object Add(string key, object entry, DateTime utcExpiry)
{
object obj = this.Get(key);
if (obj != null)
{
return obj;
}
else
{
this.Set(key, entry, utcExpiry);
return entry;
}
}
public override void Remove(string key)
{
string filePath = GetFullPathForKey(key);
if (File.Exists(filePath))
{
File.Delete(filePath);
}
}
public override object Get(string key)
{
string filePath = GetFullPathForKey(key);
if (!File.Exists(filePath))
{
return null;
}
CacheItem item = null;
FileStream fileStream = File.OpenRead(filePath);
BinaryFormatter formatter = new BinaryFormatter();
item = (CacheItem)formatter.Deserialize(fileStream);
fileStream.Close();
if (item == null || item.Expiry <= DateTime.UtcNow)
{
Remove(key);
return null;
}
return item.Item;
}
public override void Set(string key, object entry, DateTime utcExpiry)
{
string filePath = GetFullPathForKey(key);
CacheItem item = new CacheItem { Expiry = utcExpiry, Item = entry };
FileStream fileStream = File.OpenWrite(filePath);
BinaryFormatter formatter = new BinaryFormatter();
formatter.Serialize(fileStream, item);
fileStream.Close();
}
}
}
如果你想继续沿着这条路走下去(我假设你已经使用过 https://weblogs.asp.net/gunnarpeipman/asp-net-4-0-writing-custom-output-cache-providers as your starting point?), you will need to change GetFullPathForKey
so that it generates valid filenames. How to remove illegal characters from path and filenames? 可能会帮助你做到这一点。你还需要更改你的代码,以便它不会在两个线程时崩溃尝试同时写入同一个文件。此外,您确实应该引入 MemoryCache
的使用,以避免每次 Get
调用您的 class 时都访问文件系统。 这将是很多工作。
我建议考虑将这些 NuGet 包作为替代方案。他们开箱即用,并经过充分测试:
- https://www.nuget.org/packages/Microsoft.Web.RedisOutputCacheProvider/
- https://www.nuget.org/packages/CacheManager.Web/
或者只是在帮助缓存的 Web 服务器前面重击反向代理 - 例如http://mikehadlow.blogspot.com.au/2013/05/the-benefits-of-reverse-proxy.html .