了解EMR自动缩放

问题描述

我有以下代码,工作正常:

def emr_client():
    config = get_aws_config()
    return boto3.client(
        'emr',region_name=config['aws_region'],aws_access_key_id=config['aws_access_key_id'],aws_secret_access_key=config['aws_secret_access_key']
    )


response = emr_client().run_job_flow(
        Name=cluster_name,ReleaseLabel="**********",Instances={
            'InstanceGroups': build_instance_groups_config(num_core_nodes,num_task_nodes,spots,instance_type='r4.4xlarge'),'Ec2KeyName': '**********','KeepJobFlowAliveWhenNoSteps': True,'TerminationProtected': False,'EmrManagedMasterSecurityGroup': '**********','EmrManagedSlaveSecurityGroup': '**********','Ec2SubnetId': '**********',},VisibleToAllUsers=True,JobFlowRole='EMR_EC2_DefaultRole',ServiceRole='EMR_DefaultRole',Applications=[
            {'Name': 'Hadoop'},{'Name': 'Spark'},{'Name': 'Ganglia'},{'Name': 'Zeppelin'}
        ],Tags=tags,Configurations=[
            {
                "Classification": "yarn-site","Properties": {"yarn.nodemanager.vmem-check-enabled": "false"}
            }
        ]
    )

现在,我想稍作更改,以便使用自动缩放。以下是相关文档:RunJobFlow

我看到有一个叫做"AutoScalingRole": "string"的东西,还有"AutoScalingPolicy"这是一个很大的对象,但是我没有看到任何显示如何填充它的示例,也没有找到在Google上也可以。

  1. 有人可以给我举个例子吗?

  2. 此外,在进行更改后,如何检查自动缩放功能是否确实有效?

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)