aiCache概述

aiCache公司介绍

aiCache是Aitrack Ltd的全资子公司， 经英格兰和威尔士公司注册官注册成立，公司总部位于英国伦敦汉普斯特得街29号。

aiCache为互联网服务提供商，互联网应用供应商，以及为使用IP内联网技术的企业网提供高性能缓存解决办案。公司早期以WBS为名，早期的产品是JXEL。WBS自1999年起就提供网络缓存技术。 2008年7月，Aitrack Ltd收购了WBS的所有资产和技术成立了新公司---aiCache。

aiCache是什么

首先，我们需要了解什么是aiCache!简单的说，就是一个软件，可以对网站加速的软件。

运行在64位的linux环境下，基于epoll机制，利用RAM做高速缓存，动态缓存，高性能稳定的web服务器加速软件。显著减轻服务器负荷，节省服务器资源，缓解访问压力，提高响应速度。

aiCache加速原理

由于利用内存作为高速缓存，是一个多线程、轻量级、充分管道化、无堵塞的应用程序设计。（多线程：即为每个核心分配一个线程以优化多核硬件系统。该设计功能目前是世界上独一无二的。）因此，aiCache可处理的请求达到每秒25000个，并且管理数万个并发连接。

访问用户就减少了连接时间，提高了连接效率。

访客向网站发出访问请求,由aiCache负担原服务器的处理进程做出响应,获取原服务器的相应网页内容,将其储存在自身的内存中,与 此同时,传送给访客这一缓存的内容;如有另一访客也请求访问之前的相同内容,aiCache毋须再次获取原服务器上的相应内容,而直接从自身的内存中获取,将这一内容传送给访客。反之,aiCache也可缓存访客的GET和POST请求。

访客实际面对的是aiCache,与网站之间的通讯完全由aiCache反向代理,而非原服务器直接响应访客,这将大大加快访客上网流畅度,有效提升访问量,显著降低带宽占用,减轻原始服务器的繁忙度,加快响应速度,毋须不停地购置大内存,大硬盘,扩容电力设施,增强冷却设备等资源,为服 务器端节省可观的开支！

例如:100请求/秒指向主页,我们用20秒缓存,只从一个原始服务器的请求,就服务20×100-1=1999个请求。结果,因为使用了 这个特别的URL,我们就减少了原始服务器的流量大约2000倍！结果所有实际的目的缓存率是100%。当然,如果对该URL我们取得10请求/秒,那么减少将是200倍。

很明显,如果网站上大部分内容以类似的样式缓存,我们能把原始基础结构的负载量减少到几乎为0。

在原服务器前端安装了aiCache,所有用户的请求由aiCache智能管理，对大量相同内容的请求，aiCache仅仅对服务器请求一次，将数据缓存到RAM中，之后响应其他相同请求（将缓存内容直接交付给其他请求）。大大减少了原始web服务器资源占用。这样一来，就达到了节省服务器的目的。从我们的案例中就可以清楚的看到这一点。

所有网站或者说任何网站都会从aiCache的应用获益。会有更好的运行时间统计,请求响应效率统计,能够处理网络高峰时带来的网速缓慢问题。主要的好处是远程处理客户请求或响应的缓存和卸载,这是以前从未设计出来的。

EPOLL机制带来超级性能

通过Single Instance(单一实例)结构程序处理方式，aiCache每秒可为25000个请求提供服务，管理上万个同时发生的连接。

仅适用于Linux操作系统的aiCache，采用EPOLL机制，具有无与伦比的可扩展性和网络输入输出的能力。由于它的出现，数以万计的客户同时连接一台服务器（解决著名的C10K难题）开销几乎为零！

对于那些需要支持的上万连接数目web服务器来说，传统的网络编程方法已经无法满足其需要，传统方法单一进程打开的连接数是有限制的，一般来说是2048个。而epoll则没有这个限制，它所支持的上限是最大可以打开文件的数目，这个数字一般远大于2048,举个例子,在1GB内存的机器上大约是10万左右，一般来说这个数目和系统内存关系很大。

因为epoll的这个特点，可以让我们的aiCache软件成为现实，让aiCache可以轻松的管理上万个连接。

缓存动态内容

传统的缓存产品缓存动态内容时，效率低下，且很可能导致用户提交评论后无法及时看到自己发表的内容。这样的缺陷，让传统缓存技术对动态页面往往无能为力。

然而，aiCache特有的响应驱动终止机制完全可以解决网站动态内容的缓存问题！一旦有用户提交新的信息，aiCache经过分析，会立刻终止当前缓存的内容并将用户请求提交给原始服务器，经其处理后将新的响应返回给用户，并刷新自己缓存的内容，避免出现传统缓存致命的缺点。

含不可缓存内容的网站同样受益

就 aiCache 而言，响应内容可以被归为两大类别，即可缓存的与不可缓存的。由于aiCache 使用了极其有效的，零耗时的请求/响应处理过程，极大减少了web服务器与客户之间持续连接时间。因此，即使您的网站含有大量不可缓存的内容，使用它也会极大提高网站速度。对于可缓存的内容，aiCache利用共享缓存内容机制，将web服务器的负载降至最低。

灵活控制缓存内容

aiCache提供简单，精确，规则的语法式样,让您可以轻松控制缓存内容。您可通过三种不同的匹配方式，指定缓存内容及时间。

详尽的访问记录和灵活的转发机制

由于aiCache架设在web服务器之前，当web服务器无法得到真实的用户信息，aiCache为您提供了一份含有需要记录用户信息详细的日志，内含访问者信息。该日志符合apache日志标准，并且提供扩展的日志记录格式。

如果您有特殊需要，可以对aiCache进行设置，使其将用户信息转发给web服务器。

多样的aiCache监测模式

命令行（CLI）、网页（WEB）、简单网络管理协议（SNMP）等配备丰富的统计工具，让您实时监控web站点，及时发现并排除故障。

先进的CLI(命令行介面)不但可以监视aiCache运行状态，还可以方便您对缓存内容刷新。

aiCache还有很多其它吸引人的功能。在使用它之后，您会领略aiCache带来的快乐，体验到什么叫---缓存而飞，舍我其谁？从而无条件地爱上它。

系统要求aiCache要求64位2.6.9以上内核Linux操作系统。几乎所有的新近分发版都可以。为了获取更好的性能，64位要求是必须的,这样系统才支持超过4GB的内存，以提供更多缓存内容记录。aiCache经过64位Ubuntu 8,Fedora 10,OpenSUSE 11,RedHat 5和CentOS 5.2测验通过。

aiCache能使千兆网卡饱和,所以你不会受到aiCache的限制,相反,你的上行空间,防火墙和负载平衡空间可能是限制因素。

aiCache所有缓存的响应都是在内存中处理,而不是在磁盘上(本地或NFS网络文件系统等)——所以内存空间在您的服务器中越多越好。 32位系统对每个进程只限于提供最多3GB的内存(即使超过4GB也可安装)。而64位系统没有此限制,对于每个进程可用多大内存也没有具体限制。