万分柜开源项目【转载】

原文:http://www.cnblogs.com/dunitian/p/5581520.html

辛亥革命字体是当下比火之


奇虎360 https://github.com/Qihoo360

图片 1

1.MySQL中间层 Atlas

Atlas是出于 Qihoo 360, 
Web平台部基础架构团队开发保护的一个因MySQL协议的数目中间层项目。它以MySQL官方推出的MySQL-Proxy
0.8.2版的基础及,修改了大量bug,添加了森职能特色。目前欠品种以360铺面里得到了广泛应用,很多MySQL业务就接了Atlas平台,每天承载的读写请求数达几十亿长条。

首要功能:
* 读写分离
* 从库负载均衡
* IP过滤
* SQL告诉句黑白名单
* 自动分表

重复多内容:https://github.com/Qihoo360/Atlas

 

2.360黑科技=》DroidPlugin 

​DroidPlugin 是360亲手机助手以 Android
系统及落实了扳平栽新的插件机制:它可当无需安装、修改的场面下运作APK文件,此编制对改进大型APP的架构,实现多组织协作开发有自然的裨益。

特点:

  1. 支撑Androd 2.3之上系

  2. 插件APK完全无需开另外修改,可以单独设置运行、也可做插件运行。要因为插件模式运行有APK,你无需又编译、无需掌握其源码。

  3. 插件的季可怜组件完全不需以Host程序中注册,支持Service、Activity、BroadcastReceiver、ContentProvider四大组件

  4. 插件之间、Host程序及插件之间会相互认为对方曾”安装”在系上了。

  5. API低侵入性:极少的API。HOST程序只是待一行代码即可集成Droid
    Plugin

  6. 超强隔离:插件之间、插件与Host之间全的代码级别之隔断:不可知相互调用对方的代码。通讯只能使Android系统级别之报导方式。

  7. 支持有系统API

  8. 资源全隔绝:插件之间、与Host之间实现了资源全切断,不会见起资源窜用的情景。

  9. 贯彻了经过管理,插件的空进程会被这回收,占用内存低。

  10. 插件的静态广播会被当作动态处理,如果插件没有运行(即没有插件进程运行),其静态广播也永远不磨被触发。

重复多查:https://github.com/Qihoo360/DroidPlugin/

 

3.胜性能分布式存储服务 HustStore

huststore 是一个强性能的分布式存储服务,不但提供了 10w QPS 级别的
kv 存储的力量,还提供了 hash、set
等一样名目繁多数据结构的支撑,并且支持 二进制 的 kv 存储,可以完全代替
Redis 的意义。此外,huststore 还成特有的 HA
模块实现了分布式消息队列的机能,包括信息之流式推送,以及信息之
发布-订阅 等功能,可以完全代替 RabbitMQ 的作用。

特性

huststore 分为 hustdb 以及 HA 模块两十分有。hustdb
(存储引擎)的脚设计使用了独立开发之 fastdb,通过平等套特种的 md5 db
将QPS 提升及 10w 级别之品位(含网络层的出)。HA 以 nginx
模块的措施开。nginx 是工业级的 http server 标准,得益于此,huststore
具备以下特点:

  • 高吞吐量
    hustdb 的网络层采用了开源之 libevhtp 来兑现,结合自主研发的过人性能
    fastdb 存储引擎,性能测试 QPS 在 10w 以上。

  • 高并发
    参考 nginx 的面世能力。

  • 高可用性
    huststore 整体架构支持 Replication (master-master),支持 load
    balance 。
    HA 的可用性由nginx 的 master-worker 架构所保证。当某个一个 worker
    意外挂掉时, master 会自动重新起步一个 worker 进程,而且基本上独 worker
    之间是互相独立的,从而确保了 HA 的高可用性。
    huststore 的高可用性由该总体架构特点保证。由于 hustdb
    的囤积节点采用了 master-master 的构造,当某一个仓储节点挂掉时,HA
    会自动将呼吁从至另外一玉 master,同时 HA
    会按照活动进行负荷均衡,将数据分布存储在差不多只
    hustdb节点上,因此储存引擎不存单点限制。
    再就是 HA 集群本身也是分布式的筹划,而且每个 HA
    节点都是独的,当有平贵 HA 挂掉时, LVS
    会自动将请求于到其他可用之 HA 节点,从而化解了 HA 得单点限制。

  • 通用性的接口
    huststore 用 http 作为通用协议,因此客户端的兑现无限定于言语。

  • 支撑二进制的 key-value

更多查:https://github.com/Qihoo360/huststore

 

4.分布式配置管理工具 QConf

QConf 是奇虎 360
内部分布式配置管理工具。用来替代传统的配置文件,使得配置信息及程序代码分离,同时配备变化会实时同步到客户端,而且保证用户快速读取配置,这如果之工程师于零星之部署修改、代码提交、配置高达线流程中解放出来,极大地简化了安排管理工作。

特点

  • 同等地处改动,所有机器实时同步更新

  • 高效读取配置

  • 装配备好,使用简便

  • 服务器宕机、网络中断、集群迁移等异常情况对用户透明

  • 支持c/c++、shell、php、python、lua 等语言

双重多查:https://github.com/Qihoo360/QConf

 

5.开源类Redis存储系统 Pika

Pika 是 360 DBA 和基础架构组共开发的类 Redis 存储系统,完全支持
Redis 协和,用户不需要修改外代码,就得用服务迁移至 Pika。有保障
Redis 经验的 DBA 维护 Pika 不待上学成本。

Pika 主要解决的凡用户采取 Redis 的内存大小超过 50G、80G
等等这样的情况,会逢启动恢复日长,一预告多由代价十分,硬件成本高昂,缓冲区容易写满等问题。Pika
就是针对性这些状况的一个缓解方案。

特点

  • 容量非常,支持百G数据量的存储

  • 兼容redis,不用修改代码即可平滑从redis迁移到pika

  • 支持中心(slaveof)

  • 应有尽有之运维命令

双重多内容:https://github.com/Qihoo360/pika

 

6.靶缓存服务器 kmemcache

分布式linux内核内存对象缓存服务器,实现基于memcached v1.4.15,基本匹配memcached的所有操作。经开始测试,内存数据操作比较memcached快1加倍,网络并发量比memcached的也格外群,目前处于alpha版本。

亮点:由于在根本的socket层实现,所有拍卖网络事件性质比epoll机制快,另外无论需外存由用户空间及基础空间的正片。

缺点:不建议在32bits下采取。

又多内容: https://github.com/Qihoo360/kmemcache

 

7.ngx_http_subrange_module

当Nginx作为文件下充斥服务的反向代理,用户请求一个坏好之公文之时,它见面直接占满反朝代理服务器与后端主机里的带来富。因为nginx一蹩脚沾整个文件,缓冲获取到之公文,导致客户端不能够立刻读取到。带富下与iowait会很高。

ngx_http_subrange_module就是为缓解者问题,它能分开HTTP
requests。将命运据量的HTTP请求切分为多个子请求,当下载一个1
G底文件,subrange将由后端主机中下载文件块,比如事先拿走5 M,然后再次沾5
M,直到客户端下充斥了所有文件。

再多查:https://github.com/Qihoo360/ngx_http_subrange_module

 

8.齐到异步的类库 Mario

Mario是一个于修从同到异步的类库,它的线程安全于生,易于使。Mario
的最基本的想法就是以减少人口之配置,降低资金及日投入。但是来矣是类库,操作人员便好挤出精力做别的政工了。所以
Mario 类库能够充分自由之化解您的问题,你不过需要而协调之信息功能。

逗擎类型:

  • memory,这种类型就是用数据缓冲存储器留在内存里。

  • file,这种类型就是能当地头日志路径里创建做出一个 write2file。

重复多查:https://github.com/Qihoo360/Mario

 

另外一系列请去360github库观看

 —————————————————————————————————————-

百度
Baidu https://github.com/fex-team/

图片 2

https://github.com/ecomfe

 

1.UEditor 编辑器

UEditor是由于百度web前端研发部开发所表现就所得富文本web编辑器,具有轻量,可定制,注重用户体验等风味。

第一特征:

轻量级:代码精简,加载高效。

定制化:
全新的支行理念,满足多元化的需要。
使三重合架构:

  1. 核心层: 为命令层提供底层API,如range/selection/domUtils类。
  2. 命令插件层: 基于核心层开发command命令,命令中交互独立。
  3. 界面层: 为命令层提供用户用界面。
    满足不同层次用户的要求。

https://github.com/fex-team/ueditor

https://github.com/fex-team/umeditor

 

2.ECharts 图表库

ECharts开源来自百度商业前端数据可视化团队,基于html5
Canvas,是一个纯Javascript图表库,提供直观,生动,可彼此,可个性化定制的数量可视化图表。创新的拖拽重算、数据视图、值域漫游等特点大大提高了用户体验,赋予了用户指向数据开展发掘、整合的力量。提供商产品常用图表,底层基于ZRender(一个簇新的轻量级canvas类库),创建了坐标系,图例,提示,工具箱等基础零部件,并以斯达成构建出折线图(区域图)、柱状图(条状图)、散点图(气泡图)、饼图(环形图)、K线图、地图、力导向布局图与跟弦图,同时支持任意维度的堆积以及多图表混合表现。

更多:https://github.com/ecomfe/echarts

 

ECharts-X是 ECharts 团队出的新 3D 可看到化库,它是依据 ECharts
的扩充,底层深度结合了 WebGL 库QTEK和 Canvas2D 库ZRender。

扩展:https://github.com/ecomfe/echarts-x

 

3.WebUploader 高达传控件

WebUploader 是由Baidu
WebFE(FEX)团队开支的一个简单易行的盖HTML5为主,FLASH为辅的现代文件上传组件。在现代的浏览器中会充分发挥HTML5的优势,同时还要非丢掉主流IE浏览器,延用原来的FLASH运行时,兼容IE6+,Andorid
4+,IOS
6+。两效运行时,同样的调用方式,可供应用户自由选用。采用大文件分片并作上传,极大的增进了文本及传效率。

https://github.com/fex-team/webuploader

 

4.百度脑图 KityMinder

KityMinder
是百度FEX团队的f-cube小组(原UEditor小组)的还要平等名篇。作为同暂缓在线的脑图编辑工具,它兼具众多Native编辑工具的互相体验。KM与UE有着相同的宏旨,就是尊重最终用户的利用体验。同时,它充分发挥了Web云存储的优势,可以一直用编辑中的脑图同步到云端。此外,借由独创的
“云盘分享”功能,用户可以一键以目前编写的脑图直接生成在线链接共享于其他用户,实现无缝沟通。
KM是依据SVG技术实现,使用JavaScript+html实现。支持绝大多数之主流浏览器。
支撑列表如下

  1. chrome
  2. firefox
  3. safari
  4. ie9-11

https://github.com/fex-team/kityminder

 

5.人造智能体系 WARP-CTC

WARP-CTC 基给 CTC 方法,当前可用的片段 CTC
实现日常要求大量的内存还是是徐十及几百加倍。

百度研究所首席科学家 Andrew Ng
称他的钻研重大是人工神经网络如何以图形处理单元 (GPUs) 上运行,让
WARP-CTC 实现对 GPUs 和 x86 CPUs 的支持。

connectionist temporal classification (CTC) 方法可以追溯至 2006 年,在
Swiss AI 研究所 IDSIA 论文及发记录。 百度研究所开发的 WARP-CTC 就依据
CTC 方案,但是改进了那个本人的口音识别功能

https://github.com/baidu-research/warp-ctc

 

其余一系列请去baidu github库观看

 —————————————————————————————————————-

腾讯 QQ http://alloyteam.github.io/

图片 3

https://github.com/AlloyTeam/Mars

1.WeUI 吧微信Web服务量身设计

WeUI
是一样仿和微信原生视觉感受一致的基本功样式库,由微信官计划团队为微信 Web
开发量身设计,可以教用户之用感知更加统一。包含buttoncelldialog、 progress、 toastarticleactionsheeticon对等各式元素。

https://github.com/weui/weui

 

2.手机前端开发调试利器 vConsole

咱于付出手机版网页的时刻,常常会冒出下面的景象:

 (1)
开发时,在融洽电脑及运行得尽善尽美的,在大哥大及开辟就吊了,但是手机上以看不到error
log; 

 (2)
上线后,某用户表示页面失灵,但咱好同时复发不出,看不到用户侧的差信息。

一旦说(1)还可以通过电脑连手机为查看log来解决,那(2)在从来不宏观之前端上报体系时即十分低落了。

作为开发者,我们的诉求充分粗略:有无起飞跃的艺术在手机前端页面来看log日志?vConsole就这么出现了!

https://github.com/WechatFE/vConsole

 

3.业内级Web图像处理引擎 AlloyImage

AlloyImage是一个采用Javascript语言开发的,基于Web的在线图像处理引擎,除了核心底层图像处理引擎,还又并入了一些方便快捷的图像处理API,您得以它概括快速的援到公的Web网页中,做出与PhotoShop一样的菲菲效果。甚至,你得用AlloyImage来开发一个Web在线图像处理软件。

https://github.com/AlloyTeam/AlloyImage

https://github.com/AlloyTeam/AlloyPhoto 

 

4. GoPng 图片合并并生成CSS

Css
Sprite,有时也号称雪碧图、精灵图,是各级一个前端开都见面逢的题材,也是广泛的粗图加载优化手段。 

在线版本:https://alloyteam.github.io/gopng/

源码地址:https://github.com/AlloyTeam/gopng

合成说:https://github.com/luyongfugx/hcSpriteCuter (一个由于多摆放小图合并而变成的雪碧图中抠出其中同样摆设或几摆设图片)

 

5.可视化Web构建工具 AlloyDesigner

AlloyDesigner
是同一缓慢从为提高前端生产效率的浏览器内运行工具,AlloyDesigner + Chrome
F12(Especially with WorkSpace)  打造前端新的开支和测试模式

https://github.com/AlloyTeam/AlloyDesigner

 

6.Koala跨平台图形编译工具

Koala是一模一样缓缓预处理器语言图形编译工具,支持Less、Sass、CoffeeScript、Compass
framework 的便经常编译。
无需手动输入指令去编译,后台监听文件是否有改变,如发生修改会自动进行编译。能够大大升级 Web 开发被的工作效率。

功效特色

  • 基本上语言支持 支持Less、Sass、CoffeeScript 和 Compass Framework。

  • 实时编译 监听文件,当文件改变时自动执行编译,这一切都在后台运行,无需人工操作。

  • 编译选项 可以装各个语言的编译选项。

  • 色布局 支持呢品种创建一个大局配置,为文件设置统一编译选项。

  • 错提示 在编译时假如赶上语法的荒唐,koala将在右下角弹出错误信息,方便开发者定位代码错误位置。

  • 跨平台 Windows、Linux、Mac都能够完美运行。

系统支持以及要求

Koala支持逾平台运行,完美兼容Windows、Linux与Mac 。
Linux系统下欲安装好ruby运行条件, e.g. $ sudo apt-get install ruby.

https://github.com/oklai/koala

 

7.轻量级 CSS3 动画库 JX.Animate

JX.Animate
是一个开源之轻量级的CSS3动画库。动画可以下正式的CSS3重中之重帧动画(KeyFrame)制作,也可使用JavaScript制作,而且还好支撑于JavaScript中动态变化动画关键帧。

https://github.com/AlloyTeam/JXAnimate

 

8.Fanvas swf转为html5 canvas

Fanvas是一个将swf转为html5
canvas动画的体系,由简单片段组成:Actionscript实现之解析器、js运行库。Flash做动画是最好成熟最高效的措施,但鉴于终端基本不支持Flash播放,这吃终端的卡通片制作带来了诸多累。Fanvas是Flash和Canvas的全面结合,可以将swf(包括矢量和位图)完美地转发为canvas动画.

https://github.com/TencentOpen/Fanvas

 

9.身上调测平台 GT

GT(随身调)是APP的身上调测平台,它是一直运行在大哥大及之“集成调测环境”(IDTE,
Integrated Debug
Environment)。利用GT,仅凭一总统无绳话机,无需连续电脑,您即可对APP进行快捷的属性测试(CPU、内存、流量、电量、帧率/流畅度等等)、
开发日志的查看、Crash日志查看、网络数据包的抓取、APP内部参数的调剂、真机代码耗时统计等。如果您当GT提供的功力还不够满足你的待,您还
可以使GT提供的基础API自行开发有奇效果的GT插件,帮助而解决越复杂的APP调试问题。

https://github.com/TencentOpen/GT

 

10.Frozen UI 移动端UI框架

Frozen
UI是一个开源之简易好用,轻量快捷的移动端UI框架。基于手Q样式规范,选取最常用的组件,做成手Q公用离线包减少请求,升级方式友好,文档完善,目前圆满采用在腾讯手Q增值业务被。

https://github.com/frozenui/frozenui

 

11.LivePool  Web 开发调试工具

LivePool 是一个根据 NodeJS,类似 Fiddler 支持抓包和当地替换的 Web
开发调试工具,是 Tencent AlloyTeam 在出执行进程总结出的平等拟的地利的
WorkFlow 以及调节方案。

特性

  • 基于 NodeJS, 跨平台

  • 支持 http 抓包和当地替换调试,Https/WebSockets
    直接代理转发(暂勿支持当地替换)

  • 便利的 UI 管理界面,跟 Fiddler 类似,降低学习成本

  • 好退出 UI
    后台运行,适应被少数不需要抓包,只待用替换和精炼路由于的情景

  • 因项目之更迭规则管理,方便高效,规则支持拖曳排序

  • 支撑因请求路径的本地文件替换,支持因请求路径的路由转发(host
    配置)

  • 轮换类型支持:文件/文件夹替换,combo合并替换,qzmin替换(批量combo),delay延时相当于

  • 支撑自动安装系统代理

  • 支撑规则过滤,只展示关注之恳求

  • 提供构建 http get/post 请求界面,方便接口调试

  • 特征功能:模拟gprs/3g等没有网速(mac only)

  • 特性功能:支持离线站点及地方,并自行代码格式化

https://github.com/rehorn/livepool

 

**12.KNVProtoEngine 高性能树型协议处理引擎**

KNV是一个模式自由的大性能树型协议处理引擎,是指向Key-Value的一个通用结构化扩展。

使用特性

巧使NoSQL对SQL的一干二净变革一样,KNV是本着Key-Value的绝望变革!

世家还怪熟悉Key-Value系统,但KV操作极不便宜:

您不得不自己开乐观锁(读返回seq->修改->带seq写->seq变化则重头开始);
— 你只能拉取一积聚数据,然后重新领你想如果的片;
— 为了修改一个bit,你只能把同错数据拉取修改后再一并付给更新
唯独本发KNV,一切都解决了。KNV时代来了,你还当迟疑吗?

行使场景

KNV是专门对因为Protocol
Buffers(或接近树型结构)存储的积存系统开发之,有3个使用场景:

  1. 囤系统 处理用户要的通用解决措施(Get/Set/Delete),可以适配任意用户从定义的数据结构。

  2. 代办/通用逻辑层 服务器处理Protocol Buffers协议的通用方 –
    比如通用Proxy,透传多只商量,
    对要保管进行鉴权、限频、统计等等操作,还支持对包体内容展开审计,使用KNV协议,
    这种艺术就是发生或以特别简短。

  3. 原来生态 Protocol Buffers打解包库 的强性能代替品。

https://github.com/TencentOpen/KNVProtoEngine

 

13.Behaviac 游戏AI的开发框架组件

Behaviac是打AI的支付框架组件,也是一日游原型的短平快设计工具。支持作为树BT,状态机FSM,HTN等又范式,方便之编写和调试。支持都平台,适用于客户端和服务器,助力游戏高速迭代开发。编辑器可以运行在PC上,操作便利直观可靠,支持实时和离线调试;编辑器可以导出xml,bson等多格式,更得导出C++,C#源码,提供高效率。运行时支持全平台,有C++和C#个别单版,原生支持Unity。

一度受《天天炫斗》、《QQ飞车》、《全民突击》、《全民夺宝》、《九龙战》等游艺与另还多预研项目采用。

https://github.com/TencentOpen/behaviac

 

14.现代构建系统 Typhoon Blade

Blade主要定位于linux下的重型C++项目,密切配合研发流程,比如单元测试,持续集成,覆盖率统计等。但比如unix下的文书过滤程序一样
样,保持相对的独立性,可以单独运行。目前要支持i386/x86_64
Linux,未来可以设想支持外的类Unix系统。

特点:

  • 电动分析头文件指关系,构建受影响之代码。

  • 增量编译和链接,只构建以改动为影响要要构建的。

  • 机动计算库的间接依赖,库的作者就待写起直接依赖,构建时自动检查所据之堆栈是否用再行构建。

  • 于任意代码树的任意子目录下都能构建。

  • 支撑一次等递归构建多个目录下的具有目标,也支撑但构建任意的特定的目标。

  • 无论是构建什么目标,这些目标所倚的目标呢会见让活动连以更新。

  • 置 debug/release 两种植构建类型。

  • 花高亮构建过程遭到的错误信息。

  • 支持 ccache

  • 支持 distcc

  • 支持因构建多平台目标

  • 支持构建时选择编译器(不同版本的gcc,clang等)

  • 支持编译 protobuf,lex, yacc, swig

  • 支撑于定义规则

  • 支持测试,在指令执行跑多只测试

  • 支持彼此测试(多个测试进程并作运行)

  • 支撑增量测试(无需还运行的测试程序自动跳了)

  • 集成 gperftools,自动检测测试程序的内存泄露

  • 构建脚论 vim 语法高亮

  • svn 式的子命令命令行接口。

  • 支撑 bash 命令行补全

  • 之所以 Python 编写,无需编译,直接装使用。

干净避免以下问题:

  • 头文件更新,受影响的模块没有再次构建。

  • 被据之堆栈需要更新,而构建时没有被更新,比如某子目录依赖遥远的某个外部目录的代码,我以是目录构建,外部目录的代码会吃自动检查是不是也待还构建。

https://github.com/chen3feng/typhoon-blade

 

15.RapidJSON C++的JSON开发包

Rapidjson 是一个 C++ 的飞 JSON 解析器和生成器,使用 SAX/DOM 风格的
API 设计。

https://github.com/miloyip/rapidjson

 

 更多请自行查看:http://alloyteam.github.io/

 —————————————————————————————————————-

新浪:WeiBo https://github.com/weibocom

图片 4

1.分布式缓存服务器 memcachedb

memcachedb是
一个出于新浪网的开发人员开放出来的开源项目,给memcached分布式缓存服务器上加了Berkeley
DB的持久化存储机制及异步主辅复制机制,让memcached具备了政工恢复能力、持久化能力和分布式复制能力,非常适合于得超高性能读写速度,但是
不需从严业务约束,能够为持久化保存的行使场景,例如 class=”hilite1″>memcachedb被采取在初浪博客上面。

https://github.com/stvchu/memcachedb

2.动态流量管理方案 Upsync

Upsync,微博开源基于Nginx容器动态流量管理方案 。Nginx
以该越高的性质和安定,在业界获得了广阔的采用,微博的七层就大气运用了
Nginx 。结合 Nginx 的健康检查模块,以及动态 reload
机制,可以接近无损的服务的升级换代上丝与扩容。这个时候扩容的频次比较没有,大多数情景下是起计划之扩容。Upsync,开发了模块
nginx-upsync-module,它的功能是拉取 consul 的后端 server
的列表,并更新 Nginx 的路由信息。此模块不指让任何第三正在模块。consul
作为 Nginx 的 db,利用 consul 的 KV 服务,每个 Nginx work
进程独立的去拉取各个 upstream 的布置,并更新各自的路由。

https://github.com/weibocom/nginx-upsync-module

3.高性能的基业 Socket 实现 Fastsocket

Fastsocket 是一个大扩展性的 Socket 以及 Linux
内核的根网络实现。可以于差不多核机器上提供最好好的特性,此外使用以及保安还非常简单。目前欠档都在新浪的生条件遭到以。该类型由于清华大学暨新浪网联合做的
Fastos 团队开发,该团伙的沉重是晋升 Linux 内核的效率。Fastsocket
目前曾经运用在新浪微博的生环境及,主要用以供负载均衡服务的
HAProxy,线达其实性能提升一加倍,从2014年3月份平安运行及今日,预计2014年底得负载均衡全部集群的
Fastsocket 升级。Fastsocket 完全匹配 BSD Socket API,现有各类基于
Socket 的网络下可一直采用
Fastsockt。 目前通过相当测试的常用服务软件来:HAProxy、Nginx、Lighttpd、Redis
和 Memcached。

https://github.com/fastos/fastsocket

4.轻量级 RPC 框架 Motan

Motan 是一律仿照高性能、易于使的分布式远程服务调用(RPC)框架。

功能

  • 支撑通过spring配置方式并,无需额外编写代码即可为服务提供分布式调用能力。

  • 支撑集成consul、zookeeper等安排服务组件,提供集群环境的服务意识和治理能力。

  • 支持动态自定义负载均衡、跨机房流量调整等高级服务调度能力。

  • 因高并发、高负载场景进行优化,保障生产环境下RPC服务大可用。

https://github.com/weibocom/motan

5.TCP 属性剖析工具 Tcpdive

Tcpdive 是 TCP 性能剖析工具,主要特点:

  • 又多 TCP 内部性能信息

  • 定量评估 TCP 性能改进

  • 描述在 TCP 层的 HTTP 处理,依赖于 HTTP Apps

  • 好部署,使用自己

Tcpdive 已经在初浪的产条件上配备下:

  • 增长微博图服务品质

  • 增强微博视频服务品质

  • 于有线和无线网络中比 TCP 性能

  • 笔录不同采取之 TCP 流量

https://github.com/fastos/tcpdive

6.PHP框架 Yaf

Yaf是一个C语言编写的PHP框架,Yaf 的特色:

  1. 从而C语言开发之PHP框架, 相比原生的PHP, 几乎未见面带来格外的属性开销.

  2. 有着的框架好像, 不需编译, 在PHP启动的时加载, 并常驻内存.

  3. 再次少的内存周转周期, 提高内存利用率, 降低内存占用率.

  4. 活的电动加载. 支持全局与局部两栽加载规则, 方便类库共享.

  5. 愈性能的视图引擎.

  6. 可观灵活可扩大的框架, 支持于定义视图引擎, 支持插件,
    支持从定义路由等等.

  7. 内建多种路由, 可以匹配目前常见的各种路由于协议.

  8. 强有力使以高度灵活的配备文件支持. 并支持缓存配置文件,
    避免复杂的安排结构带来的性质损失.

  9. 每当框架本身,对高危的操作习惯开了经止.

  10. 更快之履进度, 更不见的内存占用.

https://github.com/laruence/yaf


小米:XiaoMi https://github.com/XiaoMi

图片 5

1.分布式的揭晓与监控系统 Minos

Minos
是小米公司开发之一个分布式的公布暨督查体系。最初是小米开发之之所以来以
Hadoop 和 ZooKeeper 集群上颁发和保管的工具。Minos
可轻松扩展来支撑外的体系,目前都支持包括 HDFS、YARN 和 Impala 。

https://github.com/XiaoMi/minos

 

2.互联网商家级监督体系 OpenFalcon

Open-Falcon 是小米运维部开源的一样舒缓互联网公司级督查体系缓解方案.

监察体系是一切运维环节,乃至整个产品生命周期中极其要紧之均等环抱,事前随即预警发现故障,事后提供可靠的多少用于追查定位问题。监控系统作为一个成熟的运维产品,业界出广大开源之落实而供应选择。当公司刚好启航,业务规模比小,运维团队也刚好确立的最初,选择同一迟迟开源之监控网,是一个省时省力,效率最高的方案。之后,随着业务规模之无休止快速增长,监控的靶子为更是多,越来越复杂,监控系统的动对象呢起最初少数之几乎只SRE,扩大也重复多之DEVS,SRE。这时候,监控系统的容量与用户之“使用效率”成了无以复加突出的问题。

监控网业界有那么些卓越的开源监控体系。我们于初期,一直当为此zabbix,不过就事情的很快提高,以及互联网公司有意的部分需,现有的开源之监控网以性、扩展性、和用户的下频率方面,已经无力回天支撑了。

于是,我们当过去之同一年里,从互联网企业的一对需要出发,从各位SRE、SA、DEVS的运用更与举报出发,结合业界的组成部分深之互联网公司做监控,用监督的有些思维出发,设计出了小米的监控网:Open-Falcon。

Highlights and features

  • 数量收集免布局:agent自发现、支持Plugin、主动推送模式
  • 容量水平扩展:生产环境各秒50万浅数据搜集、告警、存储、绘图,可连水平扩展。
  • 报警策略从发现:Web界面、支持政策模板、模板继承和遮住、多种报警方式、支持回调动作。
  • 报警设置人性化:支持太充分告警次数、告警级别设置、告警恢复通知、告警暂停、不同时段不同阈值、支持保护周期,支持告警合并。
  • 历史数据快速查询:秒级返回上百个指标相同年的历史数据。
  • Dashboard人性化:多维度的多少显示,用户从定义Dashboard等职能。
  • 架构设计高可用:整个系统无核心单点,易运维,易部署。

https://github.com/XiaoMi/open-falcon

 

3.物联网框架 IoT.js

IoT.js 旨在为物联网提供一个根据 Web 技术之而相互操作的服务平台。IoT.js
的目标是一旦当资源受限的设施及出彩运转,例如只发生几乎 KB 的
RAM。所以她支持周边的物联。

https://github.com/Samsung/iotjs


豆瓣 DouBan https://github.com/douban

图片 6

 

1.分布式计算框架 DPark

DPark 是 Spark 的 Python
克隆,是一个Python实现之分布式计算框架,可以好便于地落实广大数据处理同迭代计量。
DPark 由豆瓣实现,目前豆瓣内部的绝大多数数据解析都动DPark
完成,正日趋完善。

https://github.com/douban/dpark

 

2.iOS/Mac 音频播放器 DOUAudioStreamer

DOUAudioStreamer 是 iOS 和 Mac 的依据核心音频的流媒体音频播放器。

https://github.com/douban/DOUAudioStreamer

 

3.CODE 豆代码托管体系

Douban CODE 是豆瓣开发的一个因 git 版本控制系统的通力合作平台。

CODE —— C: Community O: Original D: Developer E: Eldamar

当下 CODE 仅开放了一个框架,支持:

  • clone & push project

  • create project

  • create user

备条件

  • MySQL

  • Memcached

  • Python >= 2.7

  • pip >= 1.4.1

  • virtualenv

  • git

https://github.com/douban/code

 


网易 NetEase https://github.com/netease

 图片 7

1.分布式TCP压力测试工具 tcpcopy

tcpcopy是一律种植使请求复制(基于tcp的packets)工具,其应用领域较常见,目前早就以为国内各级大互联网公司。

完全说来,tcpcopy主要有如下效果:

1)分布式压力测试工具,利用在线数据,可以测试网会经受之压力大小(远比ab压力测试工具真实地大多),也得以提前意识有些bug
2)普通上线测试,可以窥见新系是否平安,提前发现上丝经过遭到会起的许多题材,让开发者有信心上线
3)对比试验,同样要,针对不同或不同版本程序,可以开性能比等考试
4)利用多种手法,构造无限在线压力,满足中小网站压力测试要求
5)实战演习(架构师必备)

https://github.com/session-replay-tools/tcpcopy

 

2.桌面使用软件之跨平台解决方案 heX

heX
是网易有道搜索部门付出的一个兴你用前端技术(HTML,CSS,JavaScript)开发桌面应用软件之跨平台解决方案,基于HTML5
+ node.js,类似appjs。是您开桌面应用之平等种植新的选料,意在化解传统桌面应用开发中繁琐的UI和彼此开发工作,使其变的简练而快捷。特别适合重UI,重交互的桌面应用软件。

https://github.com/netease-youdao/hex

https://github.com/netease-youdao/hex-samples

 

3.Android性能测试工具 Emmagee

Emmagee是督查指定给测应用在行使过程遭到占机器的CPU、内存、流量资源的性能测试小器。

支撑SDK:Android2.2和上述版本

Emmagee功能介绍

1、检测时日吃测量应用占用的CPU使用率以及完整CPU使用量

2、检测时时间让测应用占用的外存量,以及占的完整内存百分比,剩余内存量

3、检测采用由起步上马到当下时光吃的流量数

4、测试数据写入到CSV文件中,同时储存在手机中

5、可以挑选被浮窗功能,浮窗中实时显示为测应用占用性能数据信息

6、在浮窗中好迅速启动或关闭手机的wifi网络

https://github.com/NetEase/Emmagee

 

4.基为udp的求复制工具 udpcopy

udpcopy用来化解udp应用的一个开源软件,与tcpcopy同属xcopy系列,可以导入udp流量到测试系统受错过,这样就是得中地针对网开展各种测试,比如压力测试,冒烟测试等等。

https://github.com/wangbin579/udpcopy

 

5.实时编辑刷新的前端服务器
Puer (推荐:browser-sync https://github.com/BrowserSync/browser-sync)

简单易行,Puer是一个足以实时编辑刷新的前端服务器。特性一览:

  • 提供一个当下或者指定路线的静态服务器

  • 负有浏览器的实时刷新:编辑css实时更新(update)页面样式,其它文件则重载(reload)页面

  • 提供简单熟悉的mock请求的部署效应,并且配备为是自动更新。

  • 可用作代理服务器,调试开发既来服务器的页面,可和mock功能配合以

  • 合龙了weinre,并提供二维码地址,方便移动端的调节

  • 得视作connect中间件使(前提是后端为nodejs,否则要以代理模式)

https://github.com/leeluolee/puer

————————–阿里巴巴开源的好软件最好多,请自行选择所欲,我排几独我们因此的————————-

阿里巴巴 Alibaba https://github.com/alibaba/ https://github.com/thx

图片 8

1.分布式key/value存储系统 Tair

Tair是出于淘宝网自主开发之Key/Value结构数据存储系统,在淘宝网有着广大的采用。您当签到淘宝、查看商品详情页面或者当淘江湖及挚友“捣浆糊”的当儿,都以直接或间接地及Tair交互。Tair是一个Key/Value结构数据的解决方案,它默认支持因内存和文书的片栽存储方,分别同咱们日常所说的缓存和持久化存储对应。

Tair除了一般Key/Value系统提供的效果,比如get、put、delete以及批量接口外,还有一些附加的实用功能,使得那发生重新常见的适用场景,包括:

  • Version支持

  • 原子计数器

  • Item支持

https://github.com/alibaba/tair

 

2.TFS 分布式文件系统

TFS(Taobao
FileSystem)是一个胜过只是扩大、高可用、高性能、面向互联网服务的分布式文件系统,其计划目标是支持海量的无结构化数据。

时,国内自主研发的文件系统可谓凤毛麟角。淘宝在及时无异天地做了卓有成效之探赜索隐和实践,Taobao
File
System(TFS)作为淘宝里采用的分布式文件系统,针对海量小文件之擅自读写访问性能做了奇特优化,承载着淘宝主站所有图片、商品描述等数存储。

https://github.com/alibaba/tfs

 

3.消息中间件 RocketMQ

图片 9

https://github.com/alibaba/RocketMQ

https://github.com/alibaba/RocketMQ-docs

 

4.SeaJS 模块加载框架

Sea.JS
是一个依 CommonJS 规范的模块加载框架,可用来轻松欢快地加载任意
JavaScript 模块。SeaJS 支持之科班模块遵循 Modules/Wrappings 规范的
define 形式,可运行为 Web 浏览器和 node.JS 等条件受到。

https://github.com/seajs/seajs

 

5.接口文档管理工具 RAP

RAP通过GUI工具帮助WEB工程师还迅捷之管制接口文档,同时通过分析接口结构自动生成Mock数据、校验真实接口的没错,使接口文档成为开销流程中的强依赖。有矣结构化的API数据,RAP可以做的更多,而我辈得以避重新多重复劳动。

https://github.com/thx/RAP

 

6.淘宝Web服务器 Tengine

Tengine是由于淘宝网发起的Web服务器项目。它于Nginx的底子及,针对大访问量网站的需求,添加了无数高等功能及特点。Tengine的性能与稳定性就以巨型的网站要淘宝网,天猫商城等收获了杀好之查验。它的最终目标是打一个火速、稳定、安全、易用的Web平台。

以下沿引项目主页上的特性介绍:

  • 延续Nginx-1.2.8的有所特性,100%相当Nginx的配备;

  • 动态模块加载(DSO)支持。加入一个模块不再需要再行编译整个Tengine;

  • 双重多负载均衡算法支持。如会话保持,一致性hash等;

  • 输入过滤器机制支持。通过下这种体制Web应用防火墙的编更为便利;

  • 动态脚本语言Lua支持。扩展功能特别快捷简明;

  • 支撑管道(pipe)和syslog(本地及远端)形式之日记与日志抽样;

  • 结缘多只CSS、JavaScript文件的看请求变成一个告;

  • 足本着后端的服务器进行主动健康检查,根据服务器状态自动上丝下线;

  • 电动根据CPU数目设置过程个数与绑定CPU亲缘性;

  • 督查体系的负荷和资源占用从而对网开展维护;

  • 显示对运维人员再和谐之错信息,便于定位出错机器;

  • 重新强劲的戒备攻击(访问速度限制)模块;

  • 再也利于之通令执行参数,如列有编译的模块列表、支持之命等;

  • 足因访问文件类型设置过时;

https://github.com/alibaba/tengine

 

7.阿里巴巴分布式数据库同步系统 otter

otter
基为数据库增量日志解析,准实时一头到本机房还是异地机房的mysql/oracle数据库.
一个分布式数据库同步系统。

https://github.com/alibaba/otter

 

8.Taobao Open API 客户端 TOP (有Net版)

TOP 是 Taobao Open API 客户端。

APIs

User

  • taobao.user.buyer.get 查询买家信息API

  • taobao.user.get 获取单个用户信息

  • taobao.user.seller.get 查询卖家用户信息

  • taobao.users.get 获取多只用户信息

Category (Working)

  • taobao.itemcats.authorize.get 查询商家给授权品牌列表和类目列表

  • taobao.itemcats.get 获取后台供卖家公布商品的标准商品类目

  • taobao.itemcats.increment.get 增量获取后台类目数据

  • taobao.itemprops.get 获取标准商品类目属性

  • taobao.itempropvalues.get 获取标准类目属性值

  • taobao.topats.itemcats.get 全量获取后台类目数据

Shop

  • taobao.shop.get (白名单用户才能够调用)

9.仿数据生成器 Mock.js

Mock.js
是平慢性仿照数据生成器,旨在帮助前端攻城师独立于晚端进行支付,帮助编写单元测试。提供了以下拟功能:

  • 根据数量模板生成模拟数据

  • 法 Ajax 请求,生成并回到模拟数据

  • 因 HTML 模板生成模拟数据

https://github.com/nuysoft/Mock

 

10.服务框架 Dubbo

Dubbo
是阿里巴巴公司开源之一个胜似性能出色之劳务框架,使得以可通过强性能的
RPC 实现劳务之输出及输入功能,可以和 Spring框架无缝集成。

重大核心部件:

  • Remoting: 网络通信框架,实现了 sync-over-async 和
    request-response 消息机制.

  • RPC: 一个远道过程调用的悬空,支持负载均衡、容灾和集群效应

  • Registry: 服务索引框架用于服务之登记和劳动事件发布和订阅

https://github.com/alibaba/dubbo

 

Nginx7天入门:https://github.com/taobao/nginx-book

 


另外项目:

1.去哪儿:

MySQL自动化运维工具 Inception

MySQL语句之审核,在业界都已经主导被认可了,实际上也是对准MySQL语句写法的统一化,标准化,而前的人造审核,针对业内是题目实际上是颇
吃力的,标准更加多,DBA越累,开发为愈累。
那么当是都追自动化运维的一世,审核为非得使同达到步履,因此Inception诞生了。而Inception可以开的干活极为不止是一个自动化审核工
具,同时还拥有实施,生成对影响多少的回滚语句(类似闪回的作用),这样一条龙服务之家伙,将会晤被DBA的劳作牵动颠覆的扭转,DBA从此便从繁重的
审核、登上去执行,出错了非常麻烦回滚(如果提前没有备份的讲话)的被动局面解放了出来,突然发现,做DBA原来可以这么轻松,工作可以免饱和了,那就算发生还多的
自由时间读书、进一步为自动化运维平台的贯彻等再度智能化的大方向去发展,是装有里程碑意义的。

https://github.com/mysql-inception/inception

2.民众点评

实时应用监控平台 CAT

CAT 由群众点评开发的,基于 Java
的实时应用监控平台,包括实时应用监控,业务监控。

CAT 支持的监控消息类型包括:

  • Transaction 适合记录跨越系统边界的先后访问行为,比如远程调用,数据库调用,也切合施行时间比较丰富之作业逻辑监控,Transaction用来记录同一段落代码的施行时和次数。

  • Event 用来记录一致宗事出的次数,比如记录系统颇,它跟transaction相比少了光阴的统计,开销比transaction要稍稍。

  • Heartbeat   表示程序外定期发生的统计信息, 如CPU%, MEM%,
    连接池状态, 系统负荷等。

  • Metric 用于记录业务指标、指标或者含有对一个指标记录次数、记录平均值、记录总和,业务指标最低统计粒度为1分钟。

  • Trace 用于记录基本的trace信息,类似于log4j的info信息,这些消息但用于查看有系信息

消息树

CAT监控系统将每次URL、Service的请求中实行情况都卷入为一个完好无损的消息树、消息树可能包括Transaction、Event、Heartbeat、Metric和Trace信息。

https://github.com/dianping/cat

 

3.搜狐:

Redis云管理平台 CacheCloud

CacheCloud提供一个Redis云管理平台:实现多种类型(Redis
Standalone
Redis SentinelRedis
Cluster
)自动部署、解决Redis实例碎片化现象、提供全面统计、监控、运维功能、减少开发人员的运维成本与误操作,提高机器的利用率,提供灵活的伸缩性,提供方便的连通客户端。

https://github.com/sohutv/cachecloud

冲 MySQL 的数据库中件 SOHU-DBProxy

SOHU-DBProxy 是由 搜狐
数据库团队开发保护的一个根据MySQL协议的数中间层项目。它当MySQL官方推出的MySQL-Proxy 0.8.3本的根基及,
修改了大量bug,添加了过多功能特色。现在既于sohu的大都只业务线上利用

DBProxy 主要成效:

1 尽管在和一个一连(只要非以同一个政工中)也会连续复用

2 负载均衡提高读性能,支持动态扩展

3
动态增长的SQL审核与过滤。能够统计的SQL长时运作影响性,并且阻止其运转

4 用户连接限制

5 自动摘除宕机的DB

6 读写分离(当前本没有,代码和测试就到位,没有统一及手上版)

https://github.com/SOHUDBA/SOHU-DBProxy

 

58:https://github.com/58code

万众点评:https://github.com/dianping

豌豆荚:https://github.com/wandoulabs

华为:https://github.com/HuaweiBigData

网站地图xml地图