以色列签署全球条约应对人工智能风险

以色列与美国、英国和其他几个欧盟国家一起签署了一项国际条约，旨在确保如何利用人工智能为公众利益服务，同时确保民主、人权和法治不受破坏。

“以色列签署首份人工智能全球公约，彰显了我们对负责任创新和人权价值观的承诺，”创新、科学和技术部长吉拉·加姆利尔 (Gila Gamliel) 表示。“这份公约将使以色列成为未来几年制定该领域国际政策的全面合作伙伴，并将使我们走在世界发达国家的前列。”

这是第一部具有约束力的国际人工智能条约，由 57 个国家签署，其中包括 46 个欧洲委员会成员国，目前正等待各国批准。一旦批准，签署国将对人工智能系统的任何有害和歧视性后果负责。与此同时，世界各地的立法者正在考虑对这项技术的监管，以及如何处理安全问题、其他滥用和它已经造成的危险。

欧洲委员会周四签署的人工智能公约旨在制定全球基本原则、规则和标准，确保这一突破性和快速发展的技术的部署与人权、民主和法治相兼容。

在与哈马斯恐怖组织持续战争的背景下，人们担心以色列在吸引开发人工智能技术的初创企业的投资方面落后于美国和欧洲。

人工智能（一种让计算机能够快速学习的技术）自 20 世纪 50 年代就已出现。但在过去十年中，由于芯片计算能力的提高和网上大量数据的出现，人工智能迎来了复兴。

2023 年 12 月 8 日，在波士顿，手机上显示 OpenAI 徽标，计算机显示器上显示由 ChatGPT 的 Dall-E 文本转图像模型生成的图像。（美联社照片/迈克尔·德怀尔）

该领域的进步使计算机能够分析数据集并找到解决问题的有用模式，有时机器甚至比人脑更聪明。人工智能和机器学习已经用于广泛的应用，从面部识别到医学图像中的疾病检测，再到游戏和战争中的全球竞赛。

本周，以色列初创公司 AI21 Labs 联合创始人、人工智能专家 Amnon Shashua 教授在特拉维夫举行的一次会议上表示，生成式人工智能在创建图像、改进数据研究和文本以及其他工具方面取得的进展非常好且有用，但尚未构成一场革命。AI21 Labs 是一家自然语言处理 (NLP) 公司，其愿景是将生成式人工智能推向大众并与 OpenAI 展开竞争。

“这是一股技术浪潮，它有可能模仿人类智能，代替人类专家解决人类知识领域中的所有复杂问题，”Shashua 说。“在那些参与 AI 高级模型研究的人中，有一种感觉，它即将到来。”

“这些模型的快速进步让人们认为，在不久的将来，这些系统不仅能够总结文章，还能像人类专家一样解决问题，然后一切都会改变，这意味着我们和机器之间的关系将发生巨大的变化，”他补充道。

与此同时，各国正在向该领域投入大量资金，因为它有望成为未来技术的核心和全球经济增长的关键。

许多致力于人工智能系统开发的专家警告称，尽管人工智能技术被吹捧为有潜力在未来几年改变我们生活的世界，但这一巨大前景也可能带来灾难性的风险，可能造成重大损害，并破坏民主。

2023 年 6 月 5 日，美国人工智能公司 OpenAI 创始人兼首席执行官 Sam Altman 在以色列特拉维夫大学发表演讲。（Jack Guez/法新社）

OpenAI 首席执行官 Sam Altman 一直敦促政府干预对于减轻日益强大的人工智能系统的风险至关重要。Altman 提出需要建立一个类似联合国核机构的国际监督监管机构来打击有害的人工智能使用。

人们担心人工智能可能会在关键基础设施、教育、人力资源和公共秩序方面被滥用。生成式人工智能 (GenAI) 的发展可以创造类似于人类创造力的复杂内容，例如 OpenAI 的 ChatGPT，这种工具被用来制作深度伪造品，这可能会导致网上传播有关大屠杀的虚假和误导性说法；在家庭作业上作弊；传播谎言；侵犯版权保护。除此之外，人们还担心，未来先进的人工智能系统可能会操纵人类，让人类放弃控制权。

“尽管目前战争肆虐，带来了许多痛苦和挑战，我们仍需要关注并参与国际进程和组织，”司法部副部长吉拉德·诺姆博士说。“同样重要的是，我们要向全球盟友和朋友发出信号，我们有一个共同的愿望，即：促进创新，同时保护人权。”

该条约要求签署国确保人工智能系统不会被用于“破坏民主机构和进程的完整性、独立性和有效性，包括权力分立原则、尊重司法独立和获取司法公正的权利”。

该法律框架还规定各国有一般义务监测人工智能系统的结果，并根据国际法和国家法采取措施保护人权，包括保护个人的隐私权及其个人数据受到法律保护。

为了遵守条约标准，签署国必须采取行动，识别、评估和尽量减少人工智能系统带来的风险，评估应基于对人权、民主和法治的实际和潜在后果进行权衡。然而，该条约并未列出对不遵守条约的任何制裁或罚款，这引发了人们对条约有效性的质疑。