云计算 第 16 课 分布式键值对存储中的一致性问题
前面我们使用过两种分布式存储的方式:sharding 和 replication,其中一个很重要的问题就是如何在分布式键值对存储中保证数据一致性,这一次我们来学习和理解关键的机制和概念。
该标签下的全部文章。
前面我们使用过两种分布式存储的方式:sharding 和 replication,其中一个很重要的问题就是如何在分布式键值对存储中保证数据一致性,这一次我们来学习和理解关键的机制和概念。
优化 HBase 性能的时候遇到了诸多问题,主要原因在于对于 HBase 细节的不理解,所以要对着官方文档,仔细过一次,希望能以此找到症结所在。
这一次我们需要利用 Map Reduce 处理大约 1T 的 Twitter 数据,并导入到对应的数据库中,这一部分因为奇奇怪怪的情况很多,所以一定要注意。
前面两课我们已经配置好了基本的环境,之后的任务都会在前面的基础上完成。因为主要会使用 undertow,所以我们制作了自己的镜像,用于对比的 vertx 则仍旧会以手动的方式进行配置。
学习是一个不断改进方法论的过程,第 15 课 分区和复制中,因为自己缺乏对并发编程的基本认识,走了很多弯路。吃一堑长一智,本文着重讲三点:一是为什么我会犯错,二是对并发编程的一些思考,三是结合 Java 语言来探索相关细节。(感谢节瓜 @jiexing 的耐心指导)
因为项目有一定的性能要求,所以我们选择 Undertow 这个微框架来降低框架本身带来的性能影响,但是因为比较小众,所以网上很多资料都不全,这里记录下具体在 EC2 上如何配置和部署 Undertow。
我们需要比较两个不同的 web 框架的性能,于是也选择了当下比较热门的 Vert.x 框架来做比较,网上的中文资源还是比较少的,这里同样记录一下如何在 EC2 上搭建和部署 Vert.x。
之前我们做的是计算能力的伸缩拓展,这次我们也要对数据库做类似的事情,并且通过具体的场景,来了解键值对存储的应用特点。特别鸣谢瓜瓜 @jiexing 的点拨,不然我就卡在自己脑洞里出不来了。