大集团都有什么样开源项目~~~阿里,百度,腾讯,360,微博,新浪,Motorola等

黑色字体是时下可比火的


奇虎360** https://github.com/Qihoo360**

图片 1

1.MySQL中间层
Atlas

Atlas是由 Qihoo 360, 
Web平台部基础架构团队开发保护的一个基于MySQL协议的多寡中间层项目。它在MySQL官方推出的MySQL-Proxy
0.8.2本子的底蕴上,修改了大量bug,添加了成千上万功力特色。目前该类型在360商厦内部拿到了广泛应用,很多MySQL业务一度接入了Atlas平台,每一天承载的读写请求数达几十亿条。

重大效用:
* 读写分离
* 从库负载均衡
* IP过滤
* SQL语句黑白名单
* 自动分表

更多内容:https://github.com/Qihoo360/Atlas

 

style=”font-size: 14pt; color: #00ccff;”>2.360黑科技=》DroidPlugin 

​DroidPlugin 是360手机援手在 Android
系统上贯彻了一种新的插件机制:它可以在无需安装、修改的境况下运作APK文件,此机制周旋异大型APP的架构,实现多协会协作开发具有自然的好处。

特点:

  1. 支撑Androd 2.3以上系统

  2. 插件APK完全不需做任何修改,可以独自设置运行、也可以做插件运行。要以插件格局运行某个APK,你无需再度编译、无需清楚其源码。

  3. 插件的四大组件完全不需要在Host程序中登记,协助瑟维斯(Service)(Service)、Activity、布罗德castReceiver、ContentProvider四大组件

  4. 插件之间、Host程序与插件之间会相互认为对方已经”安装”在系统上了。

  5. API低侵入性:极少的API。HOST程序只是急需一行代码即可集成Droid
    Plugin

  6. 超强隔离:插件之间、插件与Host之间完全的代码级此外隔断:无法相互调用对方的代码。通讯只可以采纳Android系统级其余通讯形式。

  7. 支撑具有系统API

  8. 资源完全隔绝:插件之间、与Host之间实现了资源完全切断,不会产出资源窜用的景观。

  9. 贯彻了经过管理,插件的空进程会被即刻回收,占用内存低。

  10. 插件的静态广播会被看做动态处理,倘诺插件没有运行(即没有插件进程运行),其静态广播也永远不回被触发。

更多查看:https://github.com/Qihoo360/DroidPlugin/

 

style=”font-size: 14pt;”>3.高性能分布式存储服务
HustStore

huststore 是一个高性能的分布式存储服务,不但提供了 10w QPS 级别的kv 存储的效果,还提供了 hash、set
等一多重数据结构的支撑,并且补助 二进制 的 kv 存储,可以完全代表
Redis 的机能。其它,huststore 还结合特有的 HA
模块实现了分布式音信队列的效能,包括音讯的流式推送,以及信息的
发布-订阅 等职能,可以完全代表 RabbitMQ 的职能。

特性

huststore 分为 hustdb 以及 HA 模块两大一些。hustdb
(存储引擎)的底层设计使用了自立开发的 fastdb,通过一套特种的 md5 db
将QPS 进步至 10w 级另外程度(含网络层的支付)。HA 以 nginx
模块的艺术开发。nginx 是工业级的 http server 标准,得益于此,huststore
具备以下特征:

  • 高吞吐量
    hustdb 的网络层采纳了开源的 libevhtp 来落实,结合自主研发的高性能
    fastdb 存储引擎,性能测试 QPS 在 10w 以上。

  • 高并发
    参考 nginx 的出现能力。

  • 高可用性
    huststore 全体架构协助 Replication (master-master),襄助 load
    balance 。
    HA 的可用性由nginx 的 master-worker 架构所保证。当某一个 worker
    意外挂掉时, master 会自动再起步一个 worker 进程,而且四个 worker
    之间是相互独立的,从而确保了 HA 的高可用性。
    huststore 的高可用性由其总体架构特点保证。由于 hustdb
    的积存节点采取了 master-master 的结构,当某一个囤积节点挂掉时,HA
    会自动将呼吁打到此外一台 master,同时 HA
    会遵照活动进行负荷均衡,将数据分布存储在两个hustdb节点上,由此储存引擎不设有单点限制。
    与此同时 HA 集群本身也是分布式的设计,而且每个 HA
    节点都是独立的,当某一台 HA 挂掉时, LVS
    会自动将呼吁打到其他可用的 HA 节点,从而解决了 HA 得单点限制。

  • 通用性的接口
    huststore 使用 http 作为通用协议,因而客户端的兑现不限定于言语。

  • 协理二进制的 key-value

更多查看:https://github.com/Qihoo360/huststore

 

4.分布式配置管理工具
QConf

QConf 是奇虎 360
内部分布式配置管理工具。用来代表传统的布置文件,使得配置信息和程序代码分离,同时部署变化可以实时同步到客户端,而且保证用户急速读取配置,这使的工程师从零星的部署修改、代码提交、配置上线流程中解放出来,极大地简化了配置管理工作。

特点

  • 一处改动,所有机器实时同步更新

  • 高速读取配置

  • 设置配备方便,使用简便

  • 服务器宕机、网络中断、集群迁移等非凡情状对用户透明

  • 支持c/c++、shell、php、python、lua 等语言

更多查看:https://github.com/Qihoo360/QConf

 

style=”color: #00ccff; font-size: 14pt;”>5.开源类Redis存储系统 Pika

Pika 是 360 DBA 和基础架构组联合开发的类 Redis 存储系统,完全援助Redis 合计,用户不需要修改任何代码,就足以将服务迁移至 Pika。有尊敬Redis 经验的 DBA 维护 Pika 不需要上学成本。

Pika 紧要解决的是用户使用 Redis 的内存大小超越 50G、80G
等等这样的境况,会遭遇启动復苏时间长,一主多从代价大,硬件成本贵,缓冲区容易写满等题材。Pika
就是指向这多少个现象的一个化解方案。

特点

  • 容量大,协理百G数据量的蕴藏

  • 兼容redis,不用修改代码即可平滑从redis迁移到pika

  • 帮忙中央(slaveof)

  • 健全的运维命令

更多内容:https://github.com/Qihoo360/pika

 

style=”color: #00ccff;”>6.对象缓存服务器 kmemcache

分布式linux内核内存对象缓存服务器,实现基于memcached v1.4.15,基本万分memcached的持有操作。经开头测试,内存数据操作比memcached快1倍,网络并发量比memcached的也大过多,近期处于alpha版本。

优点:由于在根本的socket层实现,所有拍卖网络事件性质比epoll机制快,其余无需内存由用户空间到基础空间的正片。

缺陷:不提出在32bits下利用。

更多内容: https://github.com/Qihoo360/kmemcache

 

style=”color: #00ccff; font-size: 14pt;”>7.ngx_http_subrange_module

当Nginx作为文件下载服务的反向代理,用户请求一个这一个大的公文的时候,它会直接占满反向代理服务器与后端主机之间的带宽。因为nginx四遍得到整个文件,缓冲获取到的文本,导致客户端不可以即时读取到。带宽使用和iowait会很高。

ngx_http_subrange_module就是为着缓解那些问题,它能分开HTTP
requests。将命局据量的HTTP请求切分为五个子请求,当下载一个1
G的文本,subrange将从后端主机中下载文件块,比如先取得5 M,然后再拿走5
M,直到客户端下载完所有文件。

更多查看:https://github.com/Qihoo360/ngx_http_subrange_module

 

8.合办到异步的类库
Mario

Mario是一个让编写从共同到异步的类库,它的线程安全较大,易于使用。Mario
的最主旨的想法就是为了减小人口的安排,降低资金和时间投入。然而有了这几个类库,操作人员就足以抽出精力做此外事体了。所以
Mario 类库可以很随便的解决您的题材,你只需要你协调的信息效率。

引擎类型:

  • memory,这类别型就是将数据缓冲存储器留在内存里。

  • file,这体系型就是可以在地头日志路径里创建做出一个 write2file。

更多查看:https://github.com/Qihoo360/Mario

 

任何一连串请去360github库观察

 —————————————————————————————————————-

百度
Baidu**
 https://github.com/fex-team/**

图片 2

https://github.com/ecomfe

 

1.UEditor
编辑器

UEditor是由百度web前端研发部开发所见即所得富文本web编辑器,具有轻量,可定制,注重用户体验等特点。

要害特点:

轻量级:代码精简,加载高效。

定制化:
全新的分段理念,满意多元化的需要。
利用三层架构:

  1. 主题层: 为命令层提供底层API,如range/selection/domUtils类。
  2. 一声令下插件层: 基于主旨层开发command命令,命令之间互相独立。
  3. 界面层: 为命令层提供用户使用界面。
    满意不同层次用户的需要。

https://github.com/fex-team/ueditor

https://github.com/fex-team/umeditor

 

style=”font-size: 14pt;”>2.ECharts 图表库

ECharts开源来自百度商业前端数据可视化团队,基于html5
Canvas,是一个纯Javascript图表库,提供直观,生动,可互相,可个性化定制的多寡可视化图表。改进的拖拽重总结、数据视图、值域漫游等风味大大进步了用户体验,赋予了用户对数据开展发掘、整合的能力。提供商业产品常用图表,底层基于ZRender(一个全新的轻量级canvas类库),成立了坐标系,图例,指示,工具箱等基础零部件,并在此上构建出折线图(区域图)、柱状图(条状图)、散点图(气泡图)、饼图(环形图)、K线图、地图、力导向布局图以及和弦图,同时协助任意维度的积聚和多图表混合表现。

更多:https://github.com/ecomfe/echarts

 

ECharts-X是 ECharts 团队生产的崭新 3D 可视化库,它是基于 ECharts
的扩展,底层深度结合了 WebGL 库QTEK和 Canvas2D 库ZRender。

扩展:https://github.com/ecomfe/echarts-x

 

3.WebUploader
上传控件

WebUploader 是由Baidu
WebFE(FEX)团队开发的一个大概的以HTML5为主,FLASH为辅的现世文件上传组件。在现代的浏览器里面能充分发挥HTML5的优势,同时又不撤消主流IE浏览器,延用原来的FLASH运行时,兼容IE6+,Andorid
4+,IOS
6+。两套运行时,同样的调用形式,可供用户擅自采用。接纳大文件分片并发上传,极大的增高了文件上传效能。

https://github.com/fex-team/webuploader

 

style=”font-size: 14pt; color: #00ccff;”>4.百度脑图 基特(Kit)yMinder

基特(Kit)yMinder
是百度FEX团队的f-cube小组(原UEditor小组)的又一大作。作为一款在线的脑图编辑工具,它拥有许多Native编辑工具的相互体验。KM与UE有着一样的大旨,就是尊重最后用户的拔取体验。同时,它充足发挥了Web云存储的优势,可以直接将编制中的脑图同步到云端。其它,借由独创的
“云盘分享”效用,用户可以一键将眼前编写的脑图直接生成在线链接共享给其他用户,实现无缝互换。
KM是基于SVG技术实现,使用JavaScript+html实现。援助绝大多数的主流浏览器。
帮助列表如下

  1. chrome
  2. firefox
  3. safari
  4. ie9-11

https://github.com/fex-team/kityminder

 

5.人造智能系列WARP-CTC

WARP-CTC 基于 CTC 方法,当前可用的局部 CTC
实现通常要求大量的内存依旧是慢十到几百倍。

百度研讨所首席数学家 安德鲁 Ng
称她的啄磨首假如人工神经网络怎么着在图形处理单元 (GPUs) 上运行,让
WARP-CTC 实现对 GPUs 和 x86 CPUs 的支撑。

connectionist temporal classification (CTC) 方法可以追溯到 2006 年,在
Swiss AI 啄磨所 IDSIA 小说上有记录。 百度研讨所开发的 WARP-CTC 就根据CTC 方案,可是立异了其本身的话音识别效能

https://github.com/baidu-research/warp-ctc

 

任何一连串请去baidu github库观察

 —————————————————————————————————————-

腾讯 QQ http://alloyteam.github.io/

图片 3

https://github.com/AlloyTeam/Mars

https://github.com/tencent-wechat

style=”font-size: 14pt; color: #ed0727;”>1.WeUI 为微信Web服务量身设计

WeUI
是一套同微信原生视觉体验一致的基本功样式库,由微信官方计划团队为微信 Web
开发量身设计,可以令用户的接纳感知更加统一。包含buttoncelldialog、 progress、 toastarticleactionsheeticon等各式元素。

https://github.com/weui/weui

 

style=”font-size: 14pt; color: #ed0727;”>2.手机前端开发调试利器
vConsole

我们在支付手机版网页的时候,平常会油然则生下面的场景:

 (1)
开发时,在大团结电脑上运行得呱呱叫的,在手机上开辟就挂了,不过手机上又看不到error
log; 

 (2)
上线后,某用户表示页面失灵,但大家和好又复发不出去,看不到用户侧的失误信息。

假诺说(1)还足以由此电脑连续手机以查看log来化解,这(2)在一向不宏观的前端上报系列时就卓殊被动了。

作为开发者,我们的诉求很简单:有没有高效的形式在手机前端页面来看log日志?vConsole就如此现身了!

https://github.com/WechatFE/vConsole

 

style=”font-size: 14pt; color: #ed0727;”>3.正经级Web图像处理引擎
AlloyImage

AlloyImage是一个用到Javascript语言开发的,基于Web的在线图像处理引擎,除了核心底层图像处理引擎,还同时并入了一些方便神速的图像处理API,您能够将它大概便捷的引用到你的Web网页中,做出与PhotoShop一样的漂亮效果。甚至,你可以用AlloyImage来开发一个Web在线图像处理软件。

https://github.com/AlloyTeam/AlloyImage

https://github.com/AlloyTeam/AlloyPhoto 

 

style=”color: #00ccff;”>4. GoPng 图片合并并生成CSS

Css
百事可乐,有时也称为7-Up图、精灵图,是每一个前端开都会赶上的题目,也是普遍的小图片加载优化手段。 

在线版本:https://alloyteam.github.io/gopng/

源码地址:https://github.com/AlloyTeam/gopng

style=”line-height: 1.5; background-color: initial;”>合成分解: style=”line-height: 1.5; background-color: initial;”>https://github.com/luyongfugx/hcSpriteCuter
(一个由多张小图合并而成的Pepsi-Cola图中抠出其中一张或者几张图纸)

 

style=”color: #00ccff;”>5.可视化Web构建工具
AlloyDesigner

AlloyDesigner
是一款致力于提升前端生产效用的浏览器内运行工具,AlloyDesigner + Chrome
F12(Especially with WorkSpace)  打造前端新的支付和测试格局

https://github.com/AlloyTeam/AlloyDesigner

 

style=”font-size: 14pt; color: #ed0727;”>6.Koala跨平台图形编译工具

Koala是一款预处理器语言图形编译工具,帮助Less、Sass、CoffeeScript、Compass
framework 的即时编译。
无需手动输入指令去编译,后台监听文件是否有变动,如有修改会自动举行编译。可以大大提高 Web 开发中的工作效率。

功能特色

  • 多语言匡助 支持Less、Sass、CoffeeScript 和 Compass Framework。

  • 实时编译 监听文件,当文件改变时自动执行编译,这一切都在后台运行,无需人工操作。

  • 编译选项 可以设置各类语言的编译选项。

  • 品种安排 帮忙为项目成立一个大局配置,为文件设置统一编译选项。

  • 谬误提醒 在编译时假如碰到语法的谬误,koala将在右下角弹出错误信息,方便开发者定位代码错误地方。

  • 跨平台 Windows、Linux、Mac都能完善运行。

系统襄助及要求

Koala扶助跨平台运行,完美兼容Windows、Linux与Mac 。
Linux系统下需安装好ruby运行条件, e.g. $ sudo apt-get install ruby.

https://github.com/oklai/koala

 

style=”font-size: 14pt;”>7.轻量级 CSS3 动画库
JX.Animate

JX.Animate
是一个开源的轻量级的CSS3动画库。动画可以采用正规的CSS3要害帧动画(KeyFrame)制作,也可以应用JavaScript制作,而且还足以支撑在JavaScript中动态变化动画关键帧。

https://github.com/AlloyTeam/JXAnimate

 

style=”color: #00ccff;”>8.Fanvas swf转为html5 canvas

Fanvas是一个把swf转为html5
canvas动画的系统,由两片段构成:Actionscript实现的解析器、js运行库。Flash做动画是最成熟最高效的点子,但由于终端基本不补助Flash播放,那给终端的动画片制作带来了重重烦劳。Fanvas是Flash和Canvas的应有尽有组合,可以把swf(包括矢量和位图)完美地倒车为canvas动画.

https://github.com/TencentOpen/Fanvas

 

9.身上调测平台
GT

GT(随身调)是APP的随身调测平台,它是一向运行在表哥大上的“集成调测环境”(IDTE,
Integrated Debug
Environment)。利用GT,仅凭一部无绳话机,无需连续电脑,您即可对APP举办急速的性能测试(CPU、内存、流量、电量、帧率/流畅度等等)、
开发日志的查阅、Crash日志查看、网络数据包的抓取、APP内部参数的调节、真机代码耗时总结等。假设你觉得GT提供的功能还不够满意你的需要,您仍可以利用GT提供的基础API自行开发有特有功效的GT插件,补助你解决更加扑朔迷离的APP调试问题。

https://github.com/TencentOpen/GT

 

10.Frozen
UI 移动端UI框架

Frozen
UI是一个开源的大概易用,轻量快速的位移端UI框架。基于手Q样式规范,拔取最常用的机件,做成手Q公用离线包裁减请求,升级形式友好,文档完善,近日一揽子采取在腾讯手Q增值业务中。

https://github.com/frozenui/frozenui

 

11.LivePool  Web
开发调试工具

LivePool 是一个依据 NodeJS,类似 Fiddler 扶助抓包和地点替换的 Web
开发调试工具,是 Tencent AlloyTeam 在付出执行过程总括出的一套的地利的
WorkFlow 以及调节方案。

特性

  • 基于 NodeJS, 跨平台

  • 支撑 http 抓包和地面替换调试,Https/WebSockets
    间接代理转发(暂不补助当地替换)

  • 便利的 UI 管理界面,跟 Fiddler 类似,降低学习成本

  • 可以脱离 UI
    后台运行,适应于一些不需要抓包,只需要利用替换和省略路由的光景

  • 依照项目标轮换规则管理,方便快捷,规则帮忙拖曳排序

  • 支撑基于请求路径的当地文件替换,援助基于请求路径的路由转发(host
    配置)

  • 轮换类型协理:文件/文件夹替换,combo合并替换,qzmin替换(批量combo),delay延时等

  • 协理活动安装系统代理

  • 辅助规则过滤,只展现关注的乞求

  • 提供构建 http get/post 请求界面,方便接口调试

  • 特点效益:模拟gprs/3g等低网速(mac only)

  • 特色效益:匡助离线站点到地头,并自动代码格式化

https://github.com/rehorn/livepool

 

style=”color: #00ccff; font-size: 14pt;”>**12.KNVProtoEngine 高性能树型协议处理引擎**

KNV是一个格局自由的高性能树型协议处理引擎,是对Key-Value的一个通用结构化扩充。

拔取特性

正如NoSQL对SQL的根本变革一样,KNV是对Key-Value的一干二净变革!

世家都很熟悉Key-Value系统,但KV操作极不方便:

您不得不自己做乐观锁(读重返seq->修改->带seq写->seq变化则重头起头);
— 你不得不拉取一堆数据,然后再领取你想要的片段;
— 为了修改一个bit,你不得不把一串数据拉取修改后再一同提交更新
而是现在有KNV,一切都解决了。KNV时代来了,你还在迟疑吗?

行使场景

KNV是特意针对以Protocol
Buffers(或相近树型结构)存储的存储系统开发的,有3个使用场景:

  1. 存储系统 处理用户请求的通用解决方法(Get/Set/Delete),能够适配任意用户自定义的数据结构。

  2. 代理/通用逻辑层 服务器处理Protocol Buffers协议的通用方法 –
    比如通用Proxy,透传两个探讨,
    对请求包举办鉴权、限频、总计等等操作,还扶助对包体内容举行审计,使用KNV协议,
    这种方法就有可能同时很粗略。

  3. 原生态 Protocol Buffers打解包库 的高性能代替品。

https://github.com/TencentOpen/KNVProtoEngine

 

13.Behaviac
游戏AI的开发框架组件

Behaviac是游戏AI的付出框架组件,也是游玩原型的便捷设计工具。协助作为树BT,状态机FSM,HTN等多种范式,方便的编排和调试。协助全平台,适用于客户端和服务器,助力游戏高速迭代开发。编辑器可以运作在PC上,操作便利直观可靠,协理实时和离线调试;编辑器可以导出xml,bson等多种格式,更可以导出C++,C#源码,提供最高效用。运行时协助全平台,有C++和C#两个本子,原生辅助Unity。

已被《每天炫斗》、《QQ飞车》、《全民突击》、《全民夺宝》、《九龙战》等娱乐及此外更多预研项目选拔。

https://github.com/TencentOpen/behaviac

 

style=”color: #00ccff;”>14.现代构建系统 Typhoon Blade

Blade首要定位于linux下的巨型C++项目,密切配合研发流程,比如单元测试,持续集成,覆盖率总结等。但像unix下的公文过滤程序一
样,保持相对的独立性,可以独自运行。近年来重中之重辅助i386/x86_64
Linux,将来可以设想援助其他的类Unix系统。

特点:

  • 自动分析头文件依赖关系,构建受影响的代码。

  • 增量编译和链接,只构建因变更受影响而需要构建的。

  • 自动总括库的直接依赖,库的撰稿人只需要写出直接依赖,构建时自动检查所看重的库是否需要再度构建。

  • 在随机代码树的任意子目录下都能构建。

  • 支撑一遍递归构建六个目录下的有所目的,也支撑只构建任意的一定的目的。

  • 无论是构建什么指标,这个目的所依靠的目的也会被电动连坐更新。

  • 放置 debug/release 二种构建类型。

  • 彩色高亮构建过程中的错误信息。

  • 支持 ccache

  • 支持 distcc

  • 襄助基于构建多平台目的

  • 帮助构建时精选编译器(不同版本的gcc,clang等)

  • 协理编译 protobuf,lex, yacc, swig

  • 协助自定义规则

  • 支撑测试,在命令行跑五个测试

  • 支撑相互测试(五个测试进程并发运行)

  • 襄助增量测试(无需重新运行的测试程序自动跳过)

  • 集成 gperftools,自动检测测试程序的内存泄露

  • 构建脚本 vim 语法高亮

  • svn 式的子命令命令行接口。

  • 支撑 bash 命令行补全

  • 用 Python 编写,无需编译,直接设置使用。

彻底避免以下问题:

  • 头文件更新,受影响的模块没有再次构建。

  • 被依赖的库需要革新,而构建时从没被更新,比如某子目录倚重遥远的某外部目录的代码,我在这多少个目录构建,外部目录的代码会被机关检查是否也需要再一次构建。

https://github.com/chen3feng/typhoon-blade

 

style=”font-size: 14pt; color: #ed0727;”>15.RapidJSON C++的JSON开发包

Rapidjson 是一个 C++ 的快捷 JSON 解析器和生成器,使用 SAX/DOM 风格的
API 设计。

https://github.com/miloyip/rapidjson

 

style=”font-size: 14pt;”>16. 微信开源PhxSQL

PhxSQL是一个兼容MySQL、服务高可用、数据强一致的关系型数据库集群。PhxSQL以单Master多Slave模式配置,在集群内领先一半机器存活的景观下,可自己实现全自动Master切换,且保证数据一致性。

https://github.com/tencent-wechat/phxsql

 

 更多请自行查看:http://alloyteam.github.io/ https://github.com/tencent-wechat

 —————————————————————————————————————-

新浪:WeiBo https://github.com/weibocom

图片 4

style=”font-size: 14pt;”>1.分布式缓存服务器 memcachedb

class=”hilite1″>memcachedb是
一个由博客园网的开发人士开放出来的开源项目,给memcached分布式缓存服务器添加了贝克莱(Berkeley)(Berkeley)DB的持久化存储机制和异步主辅复制机制,让memcached具备了作业复苏能力、持久化能力和分布式复制能力,相当适合于需要超高性能读写速度,但是不需要严谨业务约束,能够被持久化保存的接纳场景,例如 class=”hilite1″>memcachedb被利用在乐乎博客上边。

class=”hilite1″> class=”hilite1″>https://github.com/stvchu/memcachedb

2.动态流量管理方案
Upsync

Upsync,虎扑开源基于Nginx容器动态流量管理方案 。Nginx
以其超高的习性与平稳,在业界得到了宽广的施用,博客园的七层就大量使用了
Nginx 。结合 Nginx 的健康检查模块,以及动态 reload
机制,可以接近无损的劳务的晋级上线与扩容。这一个时候扩容的频次相比较低,大多数状态下是有计划的扩容。Upsync,开发了模块
nginx-upsync-module,它的效能是拉取 consul 的后端 server
的列表,并更新 Nginx 的路由音讯。此模块不借助于于其他第三方模块。consul
作为 Nginx 的 db,利用 consul 的 KV 服务,每个 Nginx work
进程独立的去拉取各类 upstream 的部署,并更新各自的路由。

https://github.com/weibocom/nginx-upsync-module

3.高性能的基本 Socket
实现 Fast(Fast)socket

法斯特(Fast)(Fast)socket 是一个高扩大性的 Socket 以及 Linux
内核的最底层网络实现。可以在多核机器上提供极好的性质,另外使用和护卫还非常简单。近日该类型曾经在网易的生产条件中行使。该项目由北大大学和微博网联合重组的
Fast(Fast)os 团队开发,该公司的沉重是提拔 Linux 内核的频率。法斯特(Fast)socket
近日已经应用在博客园网易的生产条件上,紧要用以提供负载均衡服务的
HAProxy,线上其实性能进步一倍,从2014年6月份平稳运转至今,估算2014年终形成负载均衡全体集群的
法斯特(Fast)socket 升级。Fast(Fast)socket 完全匹配 BSD Socket API,现有各个基于
Socket 的网络利用可以从来利用
法斯特(Fast)sockt。 最近通过分外测试的常用服务软件有:HAProxy、Nginx、Lighttpd、Redis
和 Memcached。

https://github.com/fastos/fastsocket

4.轻量级 RPC 框架
Motan

Motan 是一套高性能、易于使用的分布式远程服务调用(RPC)框架。

功能

  • 辅助通过spring配置格局集成,无需额外编写代码即可为劳动提供分布式调用能力。

  • 扶助集成consul、zookeeper等布置服务组件,提供集群环境的劳动意识及治理能力。

  • 支撑动态自定义负载均衡、跨机房流量调整等高级服务调度能力。

  • 据悉高并发、高负载场景举办优化,保障生产环境下RPC服务高可用。

https://github.com/weibocom/motan

5.TCP
属性剖析工具 Tcpdive

Tcpdive 是 TCP 性能剖析工具,首要特色:

  • 更多 TCP 内部性能音讯

  • 定量评估 TCP 性能革新

  • 描述在 TCP 层的 HTTP 处理,依赖于 HTTP Apps

  • 容易部署,使用自己

Tcpdive 已经在果壳网的生育环境上安排使用:

  • 增强新浪图片服务质地

  • 加强博客园录像服务质地

  • 在无线和无线网络中相比 TCP 性能

  • 笔录不同接纳的 TCP 流量

https://github.com/fastos/tcpdive

style=”font-size: 14pt;”>6.PHP框架 Yaf

Yaf是一个C语言编写的PHP框架,Yaf 的表征:

  1. 用C语言开发的PHP框架, 相相比原生的PHP, 几乎不会带动额外的习性开销.

  2. 拥有的框架类, 不需要编译, 在PHP启动的时候加载, 并常驻内存.

  3. 更短的内存周转周期, 提高内存利用率, 降低内存占用率.

  4. 利落的机关加载. 扶助全局和部分三种加载规则, 方便类库共享.

  5. 高性能的视图引擎.

  6. 惊人灵活可扩展的框架, 援助自定义视图引擎, 帮忙插件,
    匡助自定义路由等等.

  7. 内建多种路由, 可以兼容近来大规模的各类路由协议.

  8. 强有力而又中度灵活的安排文件襄助. 并襄助缓存配置文件,
    制止复杂的布局结构带来的属性损失.

  9. 在框架本身,对危险的操作习惯做了禁止.

  10. 更快的推行进度, 更少的内存占用.

https://github.com/laruence/yaf


小米:XiaoMi https://github.com/XiaoMi

图片 5

style=”color: #00ccff; font-size: 14pt;”>1.分布式的揭橥和督查系统
Minos

Minos
是黑莓公司支付的一个分布式的颁发和监督系统。最初是HUAWEI开发的用来在
Hadoop 和 ZooKeeper 集群上颁发和管制的工具。Minos
可轻松扩张来支撑任何的系列,而明儿深夜就协助包括 HDFS、YARN 和 Impala 。

https://github.com/XiaoMi/minos

 

style=”color: #ed0727; font-size: 14pt;”>2.互联网集团级监督系列OpenFalcon

Open-Falcon 是黑莓运维部开源的一款互联网公司级督查类别解决方案.

督查系列是所有运维环节,乃至整个产品生命周期中最关键的一环,事前顿时预警发现故障,事后提供翔实的数据用于追查定位问题。监控系列作为一个成熟的运维产品,业界有好多开源的贯彻可供选取。当企业刚刚启航,业务规模较小,运维团队也恰恰建立的初期,采纳一款开源的督察体系,是一个省时省力,效能最高的方案。之后,随着事情规模的不止快捷增长,监控的对象也越发多,越来越复杂,监控系统的应用对象也在此之中期少数的多少个SRE,扩张为更多的DEVS,SRE。这时候,监控体系的容量和用户的“使用效用”成了无与伦比卓越的问题。

监察连串业界有无数优良的开源监控系统。我们在最初,一贯在用zabbix,可是随着工作的快捷上扬,以及互联网商家有意的一部分需求,现有的开源的监督系统在性质、扩张性、和用户的采用效率方面,已经无力回天支撑了。

所以,我们在过去的一年里,从互联网商家的一部分需求出发,从各位SRE、SA、DEVS的行使经验和上报出发,结合业界的一些大的互联网商家做监控,用监督的有些盘算出发,设计开发了黑莓的监督系统:Open-Falcon。

Highlights and features

  • 数量收集免布局:agent自发现、辅助Plugin、主动推送格局
  • 容量水平增添:生产条件每秒50万次数据收集、告警、存储、绘图,可不断水平扩张。
  • 报警策略自发现:Web界面、帮助政策模板、模板继承和覆盖、多种报警形式、协理回调动作。
  • 报警设置人性化:协助最大告警次数、告警级别设置、告警苏醒布告、告警暂停、不同时段不同阈值、匡助敬重周期,协理告警合并。
  • 正史数据连忙查询:秒级重返上百个目的一年的历史数据。
  • Dashboard人性化:多维度的数额突显,用户自定义Dashboard等职能。
  • 架构设计高可用:整个序列无大旨单点,易运维,易部署。

https://github.com/XiaoMi/open-falcon

 

3.物联网框架
IoT.js

IoT.js 目的在于为物联网提供一个依据 Web 技术的可相互操作的服务平台。IoT.js
的对象是要在资源受限的设施上理想运转,例如只有几 KB 的
RAM。所以它匡助广大的物联。

https://github.com/Samsung/iotjs


豆瓣 DouBan https://github.com/douban

图片 6

 

1.分布式总括框架
DPark

DPark 是 Spark 的 Python
克隆,是一个Python实现的分布式统计框架,可以充裕有利地落实科普数据处理和迭代测算。
DPark 由豆瓣实现,最近豆瓣内部的大部多少解析都接纳DPark
完成,正日趋完善。

https://github.com/douban/dpark

 

style=”color: #00ccff;”>2.iOS/Mac 音频播放器
DOUAudioStreamer

DOUAudioStreamer 是 iOS 和 Mac 的依据焦点音频的流媒体音频播放器。

https://github.com/douban/DOUAudioStreamer

 

3.CODE
豆类代码托管系列

Douban CODE 是豆类开发的一个遵照 git 版本控制系统的搭档平台。

CODE —— C: Community O: Original D: Developer E: Eldamar

此时此刻 CODE 仅开放了一个框架,协理:

  • clone & push project

  • create project

  • create user

准备条件

  • MySQL

  • Memcached

  • Python >= 2.7

  • pip >= 1.4.1

  • virtualenv

  • git

https://github.com/douban/code

 


网易
NetEase
 https://github.com/netease

 图片 7

style=”font-size: 14pt; color: #ed0727;”>1.分布式TCP压力测试工具
tcpcopy

tcpcopy是一种接纳请求复制(基于tcp的packets)工具,其应用领域较广,最近早就运用于国内各大互联网公司。

完全说来,tcpcopy紧要有如下效果:

1)分布式压力测试工具,利用在线数据,可以测试系统可以接受的下压力大小(远比ab压力测试工具真实地多),也足以提前发现部分bug
2)普通上线测试,可以窥见新系列是否平安,提前发现上线过程中会出现的大队人马题目,让开发者有信念上线
3)比较试验,同样请求,针对不同或不同版本程序,可以做性能比较等考试
4)利用多种手法,构造无限在线压力,满意中小网站压力测试要求
5)实战演习(架构师必备)

https://github.com/session-replay-tools/tcpcopy

 

style=”color: #ff0000; font-size: 14pt;”>2.桌面施用软件的跨平台解决方案
heX

heX
是博客园有道搜索部门付出的一个同意你利用前端技术(HTML,CSS,JavaScript)开发桌面应用软件的跨平台解决方案,基于HTML5
+ node.js,类似appjs。是你付出桌面应用的一种新的取舍,意在缓解传统桌面应用开发中繁琐的UI和相互开发工作,使其变的简约而高速。特别适合重UI,重交互的桌面应用软件。

https://github.com/netease-youdao/hex

https://github.com/netease-youdao/hex-samples

 

3.Android性能测试工具
Emmagee

埃玛(Emma)gee是督查指定被测应用在采纳过程中据为己有机器的CPU、内存、流量资源的性能测试小工具。

支撑SDK:Android2.2以及上述版本

埃玛(Emma)gee功效介绍

1、检测当后日子被测应用占用的CPU使用率以及完整CPU使用量

2、检测当前时间被测应用占用的内存量,以及占用的完整内存百分比,剩余内存量

3、检测选拔从起步上马到当前时光耗费的流量数

4、测试数据写入到CSV文件中,同时储存在手机中

5、能够挑选开启浮窗效用,浮窗中实时显示被测应用占用性能数据音信

6、在浮窗中得以急迅启动或者关闭手机的wifi网络

https://github.com/NetEase/Emmagee

 

style=”font-size: 14pt; color: #00ccff;”>4.基于udp的伏乞复制工具
udpcopy

udpcopy用来缓解udp应用的一个开源软件,与tcpcopy同属于xcopy体系,可以导入udp流量到测试系统中去,这样就足以有效地对系统举行各个测试,比如压力测试,冒烟测试等等。

https://github.com/wangbin579/udpcopy

 

style=”font-size: 14pt;”>5.实时编辑刷新的前端服务器 Puer style=”font-size: 18px; color: #000000;”>( style=”color: #ff6600;”>推荐: style=”color: #ff6600;”>browser-sync  style=”font-size: 15px;”>https://github.com/BrowserSync/browser-sync

简短,Puer是一个得以实时编辑刷新的前端服务器。特性一览:

  • 提供一个当下或指定路线的静态服务器

  • 抱有浏览器的实时刷新:编辑css实时更新(update)页面样式,另外文件则重载(reload)页面

  • 提供简单熟练的mock请求的配备功能,并且配备也是自动更新。

  • 可用作代理服务器,调试开发既有服务器的页面,可与mock效率配合使用

  • 集成了weinre,并提供二维码地址,方便移动端的调试

  • 可以当做connect中间件使用(前提是后端为nodejs,否则请使用代理情势)

https://github.com/leeluolee/puer

————————–Alibaba开源的好软件太多,请自行选用所需,我列多少个大家用的————————-

阿里巴巴Alibaba https://github.com/alibaba/ https://github.com/thx

图片 8

style=”font-size: 14pt;”>1.分布式key/value存储系统
Tair

Tair是由Tmall网自主开发的Key/Value结构数据存储系统,在Tmall网有着广大的行使。您在签到Taobao、查看商品详情页面或者在淘江湖和好友“捣浆糊”的时候,都在一向或直接地和Tair交互。Tair是一个Key/Value结构数据的解决方案,它默认协助基于内存和文书的三种存储情势,分别和大家经常所说的缓存和持久化存储对应。

Tair除了一般Key/Value系统提供的效能,比如get、put、delete以及批量接口外,还有一对叠加的实用效用,使得其有更广的适用场景,包括:

  • Version支持

  • 原子计数器

  • Item支持

https://github.com/alibaba/tair

 

style=”font-size: 14pt; color: #ff0000;”>2.TFS 分布式文件系统

TFS(TmallFileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,其计划目标是支撑海量的非结构化数据。

现阶段,国内自主研发的文件系统可谓凤毛麟角。Tmall在这一天地做了实用的探讨和执行,天猫File
System(TFS)作为Tmall内部采取的分布式文件系统,针对海量小文件的随意读写访问性能做了特别优化,承载着Taobao主站所有图片、商品描述等数码存储。

https://github.com/alibaba/tfs

 

3.音信中间件
RocketMQ

style=”font-size: 14pt; color: #ff0000;”>图片 9

https://github.com/alibaba/RocketMQ

https://github.com/alibaba/RocketMQ-docs

 

style=”font-size: 14pt; color: #ff0000;”>4.分布式统计体系 JStorm

 Jstorm是参照storm的实时流式总结框架,在网络IO、线程模型、资源调度、可用性及平安上做了绵绵革新,已被愈来愈多商家接纳

https://github.com/alibaba/jstorm

 

5.淘宝Web服务器
Tengine

Tengine是由Tmall网发起的Web服务器项目。它在Nginx的底蕴上,针对大访问量网站的要求,添加了重重尖端效率和特色。Tengine的特性和平静已经在大型的网站如天猫网,Taobao超市等获取了很好的检查。它的最后目的是打造一个高速、稳定、安全、易用的Web平台。

 

以下沿引项目主页上的特征介绍:

 

  • 此起彼伏Nginx-1.2.8的有所特性,100%匹配Nginx的配置;

  • 动态模块加载(DSO)援助。参加一个模块不再需要再一次编译整个Tengine;

  • 更多负载均衡算法援助。如会话保持,一致性hash等;

  • 输入过滤器机制匡助。通过行使这种体制Web应用防火墙的编辑更为方便;

  • 动态脚本语言Lua辅助。扩充功效非常便捷简明;

  • 支撑管道(pipe)和syslog(本地和远端)形式的日志以及日志抽样;

  • 重组两个CSS、JavaScript文件的走访请求变成一个请求;

  • 可以对后端的服务器举办主动健康检查,依照服务器状态自动上线下线;

  • 机动遵照CPU数目设置过程个数和绑定CPU亲缘性;

  • 监督系统的载荷和资源占用从而对系统举行维护;

  • 突显对运维人员更友好的失误信息,便于定位出错机器;

  • 更强硬的防攻击(访问速度限制)模块;

  • 更方便的命令行参数,如列出编译的模块列表、协理的指令等;

  • 可以按照访问文件类型设置过期时间;

https://github.com/alibaba/tengine

  

6.SeaJS
模块加载框架

Sea.JS
是一个依照 CommonJS 规范的模块加载框架,可用来轻松快乐地加载任意
JavaScript 模块。SeaJS 辅助的专业模块服从 Modules/Wrappings 规范的
define 形式,可运行于 Web 浏览器以及 node.JS 等条件中。

https://github.com/seajs/seajs

 

style=”font-size: 14pt; color: #00ccff;”>7.Alibaba分布式数据库同步系统
otter

otter
基于数据库增量日志解析,准实时协同到本机房或外地机房的mysql/oracle数据库.
一个分布式数据库同步系统。

https://github.com/alibaba/otter

 

8.Taobao Open API
客户端 TOP
(有Net版)

TOP 是 Taobao Open API 客户端。

APIs

User

  • taobao.user.buyer.get 查询买家信息API

  • taobao.user.get 获取单个用户消息

  • taobao.user.seller.get 查询卖家用户信息

  • taobao.users.get 获取五个用户音讯

Category (Working)

  • taobao.itemcats.authorize.get 查询商家被授权品牌列表和类目列表

  • taobao.itemcats.get 获取后台供卖家发布商品的正经商品类目

  • taobao.itemcats.increment.get 增量获取后台类目数据

  • taobao.itemprops.get 获取标准商品类目属性

  • taobao.itempropvalues.get 获取标准类目属性值

  • taobao.topats.itemcats.get 全量获取后台类目数据

Shop

  • taobao.shop.get (白名单用户才能调用)

style=”color: #00ccff;”>9.模拟数据生成器 Mock.js

Mock.js
是一款仿照数据生成器,意在救助前端攻城师独立于后端举办支付,帮忙编写单元测试。提供了以下模拟效率:

  • 基于数量模板生成模拟数据

  • 依傍 Ajax 请求,生成并回到模拟数据

  • 基于 HTML 模板生成模拟数据

https://github.com/nuysoft/Mock

 

style=”font-size: 14pt;”>10.劳动框架 Dubbo

Dubbo
是Alibaba集团开源的一个高性能卓越的劳动框架,使得应用可经过高性能的
RPC 实现劳务的出口和输入效率,可以和 Spring框架无缝集成。

重在大旨部件:

  • Remoting: 网络通信框架,实现了 sync-over-async 和
    request-response 信息机制.

  • RPC: 一个远程过程调用的空洞,补助负载均衡、容灾和集群效益

  • Registry: 服务目录框架用于服务的挂号和劳务事件揭橥和订阅

https://github.com/alibaba/dubbo

 

11.接口文档管理工具
RAP

 

RAP通过GUI工具协理WEB工程师更高效的管住接口文档,同时经过分析接口结构自动生成Mock数据、校验真实接口的正确性,使接口文档成为开销流程中的强依赖。有了结构化的API数据,RAP可以做的更多,而大家可以制止更多重复劳动。

 

https://github.com/thx/RAP

 

Nginx7天入门:https://github.com/taobao/nginx-book

 


此外类型:

style=”color: #ff6600;”>1.去哪儿:

style=”color: #00ccff;”>MySQL自动化运维工具
Inception

MySQL语句的甄别,在业界都已经主导被认同了,实际上也是对MySQL语句写法的统一化,标准化,而往日的人为审批,针对业内这一个题材其实是很
吃力的,标准越多,DBA越累,开发也越累。
那么在这么些都追求自动化运维的时期,审核也必须要跟上步履,因而Inception诞生了。而Inception可以做的做事远不止是一个自动化审核工
具,同时还富有实施,生成对影响多少的回滚语句(类似闪回的效率),这样一条龙服务的工具,将会给DBA的干活带来颠覆的变迁,DBA从此就从繁重的
审核、登上去执行,出错了很难回滚(假若提前没有备份的话)的被动局面解放了出来,突然意识,做DBA原来可以这样轻松,工作能够不饱和了,这就有更多的
自由时间攻读、进一步向自动化运维平台的兑现等更智能化的可行性去发展,是兼备里程碑意义的。

https://github.com/mysql-inception/inception

style=”color: #ff6600; font-size: 14pt;”>2.民众点评

实时应用监控平台
CAT

CAT 由群众点评开发的,基于 Java
的实时应用监控平台,包括实时应用监控,业务监控。

CAT 帮忙的监督信息类型包括:

  • Transaction 适合记录跨越系统边界的先后访问行为,比如远程调用,数据库调用,也符合施行时间较长的作业逻辑监控,Transaction用来记录一段代码的履行时间和次数。

  • Event 用来记录一件事时有发生的次数,比如记录系统万分,它和transaction比较紧缺了时光的总结,开销比transaction要小。

  • Heartbeat   代表程序内定期暴发的统计信息, 如CPU%, MEM%,
    连接池状态, 系统负荷等。

  • Metric 用于记录业务目标、目的或者含有对一个指标记录次数、记录平均值、记录总和,业务目的最低总括粒度为1分钟。

  • Trace 用于记录基本的trace信息,类似于log4j的info音信,这个音信仅用于查看一些相关信息

消息树

CAT监控序列将每一回URL、Service(Service)的呼吁内部进行情况都打包为一个完好无损的音讯树、信息树可能包括Transaction、伊芙nt、Heartbeat、Metric和Trace信息。

https://github.com/dianping/cat

 

style=”font-size: 14pt;”>3.搜狐:

Redis云管理平台
CacheCloud

CacheCloud提供一个Redis云管理平台:实现多体系型(Redis
Standalone
Redis SentinelRedis
Cluster
)自动部署、解决Redis实例碎片化现象、提供周详总结、监控、运维功用、收缩开发人士的运维成本和误操作,提升机器的利用率,提供灵活的紧缩性,提供方便的联网客户端。

https://github.com/sohutv/cachecloud

基于
MySQL 的数据库中间件 SOHU-DBProxy

SOHU-DBProxy 是由 网易数据库团队开发爱慕的一个根据MySQL协议的多少中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.3版本的基本功上,
修改了大量bug,添加了广大功力特色。现在早就在sohu的四个业务线上应用

DBProxy 重要效用:

1 不怕在同一个一连(只要不在同一个作业中)也能连续复用

2 负载均衡提升读性能,匡助动态扩张

3
动态增长的SQL审核和过滤。可以总结的SQL长日子运作影响属性,并且阻止其运转

4 用户连接限制

5 自动摘除宕机的DB

6 读写分离(当前版本没有,代码和测试已经到位,没有统一到当下版本)

https://github.com/SOHUDBA/SOHU-DBProxy

 

style=”font-size: 18px;”>58https://github.com/58code

style=”font-size: 18px;”>公众点评https://github.com/dianping

style=”font-size: 18px;”>豌豆荚https://github.com/wandoulabs

style=”font-size: 18px;”>华为https://github.com/HuaweiBigData

 

网站地图xml地图