自主系统的发展面临哪些挑战？

由英国皇家工程院牵头的国家工程政策中心的新研究确定了自主系统带来的主要挑战和机遇，以及工程界如何努力确保负责任的创新。支持自主系统的技术正在快速发展，从自动驾驶汽车和核维护机器人到药物输送和诊断、长途运输和网络攻击保护。自主系统将提高英国的生产力和出口，并可能有助于提供广泛的经济和社会效益，例如取代单调、无回报和/或危险的任务。工程在确保所采用的自主解决方案安全、公正并旨在满足当前未满足的需求方面发挥着关键作用。国家工程政策中心咨询了公众、工程师、政策制定者和监管者对自治的期望s 系统和工程师应该扮演的角色。调查结果确定了自主系统带来的主要挑战和机遇，以及工程界如何工作以确保负责任的创新。

确定的挑战是：

图片由 The国家工程政策中心和皇家工程院技术——需要新的验证和验证方法以及模拟和真实世界的试验，以确保系统功能的安全性和确定性。专业责任——需要正确的标准和实践规范根据自治系统带来的新挑战推动文化变革，并且这些必须随着最佳实践的出现而发展。监管——在需要监管以执行标准的情况下，应仔细考虑。一个领先的、敏捷的和响应迅速的英国监管系统可以连接许多部门的监管机构，因为自治是必需的我们的系统变得更加广泛。监督——随着自治系统部署在越来越大和越来越复杂的环境中，将会出现责任和权力问题。需要有适当的治理来判断系统产生的不确定性和风险是否证明它带来的好处是合理的。公众接受度——在部署新的自治系统之前，应该有更多的公众参与，以在个人和服务提供商之间建立信任。道德——设计过程中必须有机制，使集体、反思、透明的决策能够解决不确定性，解决缺乏人为监督的问题，并告知自主系统的部署方式。国家工程政策中心现在将探索和测试这些结论，重点关注包括交通和医疗保健在内的特定部门。它将考虑自主系统在每个领域发展的独特方式部门，具体挑战安全和合乎道德的部署，并寻求确定新出现的良好做法。完整的简报可在此处获得。