英国政府为即将于11月初在布莱切利公园(Bletchley Park)举行的人工智能安全峰会(AI Safety Summit)制定了五大目标。
今年6月，日本首相苏纳克(Rishi Sunak)在访问华盛顿与美国总统拜登(Joe Biden)会面期间首次宣布，峰会旨在将政府官员、人工智能公司和研究人员聚集在布莱切利公园(Bletchley Park)，共同考虑人工智能技术的风险和发展，并讨论如何通过国际协调行动来缓解这些风险。
今年3月，英国政府发布了一份白皮书，概述了其人工智能战略，称其正在寻求避免所谓的“严厉立法”，而是呼吁现有监管机构利用现行法规确保人工智能应用遵守指导方针，而不是起草新的法律。
预计监管机构将在未来几个月开始向企业发布实用指南，分发风险评估模板，并制定如何实施政府的安全、安保和稳健原则;透明度和可解释性;公平;问责制和治理;以及可争议性和救济。
英国科学、创新和技术部在一份声明中表示:“英国期待在这些问题上与全球合作伙伴密切合作，以确保前沿人工智能的安全，并确保全球各国和公民现在和未来都能实现人工智能的好处。”该部门还补充说，该部门概述的五个目标建立在“初步利益相关者咨询和证据收集的基础上，并将为峰会的讨论提供框架。”
Anderljung等人在2023年7月的一篇学术论文中将“前沿人工智能”一词定义为“可能表现出危险能力的高性能基础模型”。该论文的作者警告说，基础模型是一种生成式人工智能，下一代这样的模型可能带来的危险包括“由于故意滥用或事故，在全球范围内造成重大的身体伤害或关键社会功能的破坏”。
英国政府此次峰会的五个目标是:
- 就前沿人工智能带来的风险和采取行动的必要性达成共识
- 提出国际化进程在前沿人工智能安全方面的合作，包括如何最好地支持国家国内和国际f部分rameworks
- 建议个别机构应采取的适当措施，以加强前沿人工智能的安全
- 确定人工智能安全研究的潜在合作领域，包括e评估模型功能和开发支持治理的新标准
- 展示如何确保人工智能的安全发展将使人工智能在全球范围内得到更好的应用。
受邀者的完整名单尚未公布。
