如何使用Ec2MultiRegionSnitch将Cassandra配置为跨多个EC2区域工作

时间:2012-06-13 22:09:12

标签: amazon-ec2 cassandra

我是Cassandra的新手,并负责在多个地区的EC2环境中启动和运行,这样如果整个EC2区域瘫痪,我们的应用程序将继续以愉快的方式运行。我已经阅读了尽可能多的关于Ec2MultiRegionSnitch的文档,并且已经停止了。我正在运行cassandra 1.0.10。

我的问题如下:

1)当我启动bin / cassandra时出现错误:无法在JMX中启动注册mbean。虽然我可以在任何节点上运行bin / nodetool -h ring,但我得到了一个健康系统所期望的显示。我已将mx4j库添加到我的cassandra部署中。我可以尝试删除我想的。

2)当我然后启动bin / cassandra-cli -h时,我能够按如下方式创建密钥空间:

    CREATE KEYSPACE mykeyspace 
    WITH placement_strategy = 'org.apache.cassandra.locator.NetworkTopologyStrategy'
    and strategy_options = {us-east-1:2,us-west-1:2};

3)运行'use mykeyspace'后,我可以创建一个列系列,如下所示:

    CREATE COLUMN FAMILY people 
       WITH comparator=UTF8Type AND key_validation_class=UTF8Type AND 
       default_validation_class=UTF8Type AND column_metadata=[{column_name:FIRST_NAME,validation_class:UTF8Type},
      {column_name:LAST_NAME,validation_class:UTF8Type},
      {column_name:EMAIL,validation_class:UTF8Type},
      {column_name:LOGIN,validation_class:UTF8Type, index_type: KEYS}];

4)执行此操作后,我可以在4个节点中的任何一个节点上运行bin / cassandra-cli -h,运行使用mykeyspace;描述;并且每个节点都正确地描述了mykeyspace,包括列族和种子列表。

5)但是当我尝试执行简单的操作时:

    set people['1']['FIRST_NAME'] = 'John'; 

我得到一个堆栈跟踪如下:

    null
    UnavailableException()
        at org.apache.cassandra.thrift.Cassandra$insert_result.read(Cassandra.java:15206)
        at org.apache.cassandra.thrift.Cassandra$Client.recv_insert(Cassandra.java:858)
        at org.apache.cassandra.thrift.Cassandra$Client.insert(Cassandra.java:830)
        at org.apache.cassandra.cli.CliClient.executeSet(CliClient.java:901)

我的配置:

我已经为端口22,7000,7199和9160执行了ec2-authorize

我的群集中有4个节点:以下每个区域中有一个节点:AvailabilityZones。

    us-east-1:us-east-1a  (initial_token: 0)
    us-east-1:us-east-1c  (initial_token: 85070591730234615865843651857942052864)
    us-west-1:us-west-1a  (initial_token: 1)
    us-west-1:us-west-1c  (initial_token: 85070591730234615865843651857942052865)

每个EC2实例都与公共IP地址相关联。

在每个节点中,我已按如下方式配置 cassandra.yaml

    seeds: <set to the public ip address for the us-east-1a and us-west-1a nodes>
    storage_port: 7000
    listen_address: <private ip address of this node>
    broadcast_address: <public ip address of this node>
    rpc_address: 0.0.0.0
    rpc_port: 9160
    endpoint_snitch: Ec2MultiRegionSnitch

此外,在每个节点的 cassandra-env.sh 中,我还包括:

    JVM_OPTS="$JVM_OPTS -Djava.rmi.server.hostname=<Node's local IP Address>"

我的辩护 希望我已经向某人提供了足够的信息来帮助我按照自己的意愿使用这个东西。

其他信息 从第一个mx4j问题堆栈跟踪:

    WARN 22:07:17,651 Could not start register mbean in JMX java.lang.reflect.InvocationTargetException
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:616)
    at org.apache.cassandra.utils.Mx4jTool.maybeLoad(Mx4jTool.java:66)
    at org.apache.cassandra.service.AbstractCassandraDaemon.setup(AbstractCassandraDaemon.java:243)
    at org.apache.cassandra.service.AbstractCassandraDaemon.activate(AbstractCassandraDaemon.java:356)
    at org.apache.cassandra.thrift.CassandraDaemon.main(CassandraDaemon.java:107)
    Caused by: java.net.BindException: Cannot assign requested address
    at java.net.PlainSocketImpl.socketBind(Native Method)
    at java.net.AbstractPlainSocketImpl.bind(AbstractPlainSocketImpl.java:353)

我的cassandra-topology.properties

    aaa.aaa.aaa.aaa=us-east-1:us-east-1a
    bbb.bbb.bbb.bbb=us-east-1:us-east-1c

    ccc.ccc.ccc.ccc=us-west-1:us-west-1a
    ddd.ddd.ddd.ddd=us-west-1:us-west-1c

    default=us-east-1:us-east-1a

我的nodetool响铃输出__

    Address         DC          Rack        Status State   Load            Owns    Token                                       
                                                                           85070591730234615865843651857942052865      
    aaa.aaa.aaa.aaa  us-east     1a          Up     Normal  11.09 KB        50.00%  0                                           
    bbb.bbb.bbb.bbb  us-west     1a          Up     Normal  6.68 KB         0.00%   1                                           
    ccc.ccc.ccc.ccc  us-east     1c          Up     Normal  11.09 KB        50.00%  85070591730234615865843651857942052864      
    ddd.ddd.ddd.ddd  us-west     1c          Up     Normal  15.5 KB         0.00%   85070591730234615865843651857942052865  

我非常确定我已正确添加了区域/可用区域。至少我认为我匹配文档中出现的内容。 (在此链接中查看Ec2MultiRegionSnitch) http://www.datastax.com/docs/1.0/cluster_architecture/replication

我认为我不能将这些地区列为我们西部和东部地区,因为西部有两个地区(us-west-1是加利福尼亚地区,us-west-2是俄勒冈地区) 。因此,我不认为只是让我们西方成功地区分区域。

1 个答案:

答案 0 :(得分:6)

我在评论中的猜测是正确的。您的复制设置和数据中心名称不匹配。有几件事。

1)cassandra-topology.properties仅由PropertyFileSnitch使用。使用ec2 snitch时,该文件无关紧要。 2)小报当前报告'us-west'而不是'us-west-1'的原因是由于一个错误。 https://issues.apache.org/jira/browse/CASSANDRA-4026。如果您在'us-west-2'中添加了节点,则会正确地将其报告为。

所以这里的解决方案是更新您的复制设置:

CREATE KEYSPACE mykeyspace 
    WITH placement_strategy = 'org.apache.cassandra.locator.NetworkTopologyStrategy'
    and strategy_options = {us-east:2,us-west:2};

另外,遗憾的是我不知道mx4j有什么问题。虽然cassandra不需要它,但除非你真的需要它,否则你可以删除它。

相关问题