新加坡推出新人工智能安全倡议

新加坡宣布推出新人工智能安全倡议，以增强新加坡和全球人工智能的安全。

数码发展及新闻部长杨莉明从昨天（10日）和今天（11日）在法国出席了人工智能行动峰会（AI Action Summit，简称AIAS），并宣布了这些倡议。

三项新倡议包括全球人工智能保障试点计划（Global AI Assurance Pilot）、与日本的联合测试报告，以及发布新加坡人工智能安全“红队测试”（red teaming）评估报告。

针对这三项新举措，数码发展及新闻部长杨莉明表示：“为了充分发挥人工智能造福社会的潜力，新加坡认为，我们必须首先全面理解人们对人工智能的不信任之处。例如系统中的偏见和失去控制的感觉；并找到公正且严格的方式来测试人工智能系统，以确保其更安全和更负责任。”

一、人工智能保障试点计划

由人工智能验证基金会（AI Verify Foundation）和资讯通信媒体发展局（IMDA）发起的人工智能保障试点计划，是围绕生成式人工智能（GenAI）应用程序的试验。

试点计划将召集领先的人工智能保障和测试供应商，以及正在部署实际生成式人工智能应用程序的公司。计划将塑造未来的人工智能保障标准和未来的保障服务、发展本地和国际第三方人工智能保障市场，并为人工智能治理框架提供实用的建议。

二、联合测试报告

另外，我国与日本在人工智能行动峰会网络下推出联合测试报告，主要是通过评估非英语环境中是否有防护栏，使大型语言模型（Large language model）在不同语言环境中更加安全。

由于目前以英语为中心的培训和测试可能会在非英语保障方面留下缺口，联合测试活动将扩大全球努力，使模型在不同语言环境中更加安全。

三、人工智能安全“红队测试”评估报告

最后，新加坡人工智能安全“红队测试”评估报告，可以方便我国了解大型语言模型在不同语言方面的表现和亚太地区的文化，以及这些保障措施在这些情境中的有效性。

杨莉明也说，人工智能正在重塑我们的世界，新加坡看到了为人工智能安全和治理做出贡献的机会。

“我们致力于与行业、学术界和社区建立强有力的全球伙伴关系，以实现为新加坡和世界的公共利益服务的人工智能。”