坚持以人为本的原则，特别是在涉及生命健康、关键物品和伦理敏感领域。文字|陆晓、李锐 随着机器不再只是工具，而是成为具有一定自主性、能与人类共同决策、共同创造价值的智能生命，人与机器的传统界限趋于动态和模糊，伦理治理相关问题逐渐引起公众关注。嵌入式智能的应用正在引入许多需要关注和争论的新问题，特别是与责任分担、隐私保护和社会就业等问题相关的问题。建立系统性、前瞻性的伦理治理框架，有助于为人机协作提供明确的方向，也是增强社会信任和技术接受度的重要基础。现在，科研界和产业界必须共同努力共同构建中国方案的有效治理体系，为推动嵌入式智能标准制定提供理论支撑和实践指导。 Garbot 是 Galaxy 的多用途智能机器人，它用手臂将衣服挂在衣架上。照片由受访者提供。具身智能引发了伦理问题。具身智能正在推动生产关系从“人主协助”向“人机共创”转变，对现有的治理实践提出了新的调整要求，比如如何解决权利与责任界限模糊带来的问责鸿沟、敏感数据侵犯隐私、以及一定程度上劳动力市场就业替代的影响等挑战。首先，大规模模型的“黑匣子”性质使其难以完全解释或预测决策过程。即使作为系统设计师，您也不可能拥有完整的ete 控制系统的所有行为。这一技术特征与建立明确的法律责任体系的要求之间存在调试的空间。例如，在自动驾驶、医疗机器人、工业机器人等典型场景中，具身智能的发展对传统责任识别机制提出了优化要求。传统的产品责任系统模拟人类设计和机械执行。谁的责任就比较明确了。然而，嵌入式智能系统的自主学习和决策能力对该系统提出了挑战。为了解决这个问题，学术界和工业界提出了多种解决方案，包括建立人工智能保险系统、建立算法透明要求、创建多方共担责任机制等。例如，在自动驾驶领域，中国正在考虑审查其道路安全法并制定行业标准，以完善制造商、软件提供商、车主等的责任方式。目前该行业的探索仍处于早期阶段。如何在创新的同时确保责任可追溯，是伦理治理的关键问题。其次，具身智能系统严重依赖环境数据进行决策和适应，其中可能包括信息敏感的个人离子。当前的隐私法律和法规主要旨在涵盖传统的数据收集和处理方法，监管新数据（例如嵌入式智能）的能力相对有限。全球范围内已经建立了相应的隐私保护框架，并且正在不断完善。我国个人数据保护法和欧盟人工智能法都对数据处理活动设定了严格的合规要求，并使得未明确机器人数据采集必须遵循知情同意的原则。在技术层面，隐私计算技术正在逐步得到应用，力求在数据使用和隐私保护之间取得平衡。下一步是深入研究数据使用和所有权的明确规则。在保护个人隐私的同时实现数据价值最大化，平衡个人权利与技术发展的需求。第三，具身智能可以渗透到更多结合体力和认知能力的工作场所，取代人类，给一些传统岗位带来一定压力。同时，具身智能将带来工作结构的调整，形成人机协作的新模式。为了应对就业结构的变化，许多国家的政府和企业都在实施职业培训制度。我们通过提升学位、优化劳动力来引导劳动力的平稳过渡和技能提升工作结构，并建立终身学习机制。下一步是通过政策指导和技能开发帮助工人适应人与机器之间新的协作工作模式。促进技术快速迭代和采用，同时确保劳动力市场平稳过渡并为工人带来更广泛的福利。中国治理体系形成方案。科研界和产业界要紧密合作，结合分级治理、制度创新、国际合作的思路，秉持以人为本的价值观，努力推动技术进步并兼顾公共利益，制定我国伦理治理体系规划。提供分级权限，建立完善的权限管理机制。鉴于智能嵌入式系统决策权的分布式性质，可以考虑分层授权治理模型。一定是遵守以人为本的原则，特别是在涉及生命和健康、首要财产和道德考虑的领域。实现分级授权机制，需要根据应用场景的重要性、决策后果的严重程度以及技术的成熟度，定义智能系统的自主决策权限。建议制定风险等级评估标准，根据决策可能后果的严重程度，将智能系统的决策行为划分为不同等级。系统可以独立做出低风险决策，中风险决策需要人的监督和审查，高风险决策必须由人指导。同时，可以引入技术成熟度评价标准，根据人工智能技术在特定领域的可靠性和准确性来确定认证程度。在地区技术相对成熟、错误率较低的地方，可以赋予系统更大的自主权。在技术不够成熟、不确定性较大的领域，系统的决策权限应该受到限制。及时调整各级认定标准和认定范围。利用社会实验来塑造渐进式制度创新的途径。体现的智慧治理是复杂且不确定的，探索有效的治理模式需要社会实验，这一点很重要。渐进式的实验方法可以更好地发现和解决实际问题，降低政策失误的风险，提高治理方案的可操作性。例如，针对员工替代问题，可以选择城市开展社会实验试点、引入人机协作专家认证制度、平衡科技与人文关怀、可持续发展等。可以构建产业生态系统。在社会实验中，首先要明确重要的问题。这包括定义人机协作位置的功能边界以及确定人类工人和智能系统各自的责任范围。建立相应的技能培训和认证标准。设计激励机制，鼓励企业和个人参与人机协作模式。其次，我们试图考察治理解决方案在不同类型城市的适应性。建立多方参与的协调机制。政府部门负责政策设计、监督和实施，企业负责技术研究、开发和推广应用，学术机构提供理论支持和效果评估，社会组织代表公众参与研究。休息并参与决策过程。这种多元化的共治模式有助于提高政策的可接受性。我们积极参与国际标准制定，引领全球治理规范。作为嵌入式智能技术的主要贡献者，中国应积极推动将隐私计算、伦理限制等治理理念纳入国际标准化组织（ISO）相关标准。 Sand从隐私计算的角度出发，提出了基于技术手段保护个人隐私的创新解决方案。加密技术可以让您在不暴露原始数据的情况下进行数据分析和模型训练。从伦理约束的角度来看，我们主张建立一个全球性的实体智能伦理约束框架，其中包括公平正义的原则，以防止实体智能系统造成或超出预期的范围。痛斥社会不公。透明度和可解释性原则。这意味着嵌入式智能系统的决策过程具有一定程度的可解释性。并按照责任追溯的原则，建立明确的责任追究机制。 （陆晓：中国科学院战略科技咨询研究所副所长、研究员；李锐：中国科学院科技战略咨询研究所副研究员） ■
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。
近期评论