东盟将制定《人工智能监管框架》防止AI被滥用

引语：东南亚正积极致力于制定人工智能（AI）政策和法规，以提升地区竞争力和推动创新。尽管各国在人工智能发展程度上存在差异，但都普遍意识到，国家需要一个全面的监管框架来规范道德体系、防止人工智能被滥用，并避免扼杀增长和创新的行为出现。这与欧盟《人工智能法案》中的尝试类似，但东南亚地区希望通过借鉴其经验教训，找到更适合本地区的平衡点。

东盟将制定《人工智能监管框架》防止AI滥用

菲律宾计划在2026年担任东盟轮值主席国，提出人工智能（AI）监管框架，目前东南亚正在积极制定人工智能发展的政策和法规。

在科尔尼咨询公司（Kearney）2020年的一项调查中发现，70%的东南亚人认为人工智能是他们面对未来挑战的关键，并且希望人工智能在该地区可以实现快速发展。为了回应这一期望，制定全面的针对人工智能的区域监管框架显得尤为重要。这不仅是规范人工智能实践和解决滥用这一新兴技术问题的基本步骤，还将帮助东盟在发展人工智能方面找到更多的共同方向和共同利益，以支持本地区的《数字经济框架协议》和《2025年后议程》。

制定针对人工智能的区域监管框架也有助于促进和增强整个东盟成员国在人工智能方面的利益，特别是在刺激竞争力和促进创新的区域生态系统方面。预计到2030年，利用人工智能有可能为东盟地区带来高达9,500亿美元的收益，或使地区国内生产总值提高10%-18%。

然而，东盟地区在全球人工智能市场上的竞争力仍然受到其在推进人工智能主导技术方面准备不足的影响。根据牛津大学的《2023年政府人工智能准备指数》，新加坡是人工智能准备最充分的国家，在满分100分中获得了81.97分，远高于东盟地区平均水平的55.49分。泰国的得分为63分，略高于地区平均水平，柬埔寨和老挝的得分则分别为31.9分和33分，低于本地区平均水平。

迄今为止，东盟地区的人工智能计划主要由少数几个数字经济体系较为发达的国家主导，导致人工智能驱动技术的发展存在明显差异。新加坡推出了包括国家人工智能战略在内的25项举措，旨在为人工智能发展营造一个值得信赖的环境。这种做法延伸到2024年1月提出的“生成式人工智能治理框架范本”，以应对这一技术在全球范围内日益广泛的应用。

此外，越南推出了六项倡议，泰国有五项战略，印度尼西亚也有一项。一些国家仍处于发展人工智能的初始阶段，例如柬埔寨，该国于2023年发布了关于政府应如何促进和监管人工智能的详细建议。

尽管2024年2月发布的《东盟人工智能治理和道德指南》可作为政府和商业部门的区域最佳实践指南，但该地区需要一个更加细化和全面的框架。这一框架应纳入法律措施，以确保人工智能的发展有利于本地区，同时避免其未来的潜在后果。

要为人工智能的发展建立一个安全、包容和创新的生态系统，同时在全社会应用人工智能时维护道德价值观，对人工智能进行有效监管至关重要。然而，在制定区域性的人工智能监管框架之前，东盟成员国应借鉴现有框架的经验和教训，例如欧盟的《人工智能法案》（AIA），以避免潜在的弊端。
即将出台的东盟人工智能监管框架应避免《人工智能法案》的两难境地，既要防止开发和利用人工智能的非法行为，又要刺激创新增长，在创新与监管之间取得平衡。

与大多数监管方法不同，欧盟的《人工智能法案》的突出之处在于它采用了具有法律约束力的协议，而不是依靠人工智能开发者和公司的自愿与自律。欧盟作为数字领域的监管强国，自《通用数据保护条例》（GDPR）、《数字服务法》（DSA）和《数字市场法》（DMA）颁布以来，一直在采用基于风险的人工智能监管方法，与此同时，欧盟也即将通过世界上最全面的人工智能法律。这部法律对高风险和不可接受的人工智能类别提出了严格的规定和要求。

然而，正如2023年6月150多家欧洲领先技术公司在一封公开信中所表达的担忧，从业人员担心这可能会导致过度监管，从而造成欧洲在人工智能领域的人才流失。因此，东盟在制定自己的监管框架时，应汲取这些经验教训，避免过度监管，同时确保人工智能技术的创新和发展。

2023年AppliedAI的调查显示，73%的欧盟成员国风险投资人认为《人工智能法案》（AIA）将显著降低竞争力，并可能成为创新的瓶颈，特别是在开源人工智能行业，这可能会使市场竞争力在未来大打折扣。这种做法可能限制跨境创新，并导致其他地区通过多样化的创新方式产生反弹，同时还可能助长人工智能民族主义的兴起。

相反，欧盟不断强调，《人工智能法案》是以卓越为基础，支持欧洲人工智能战略和2024年1月推出的人工智能创新一揽子计划中规定的创新。2023年的一项分析进一步估计，通用人工智能供应商的合规成本可能极低，占建立人工智能模型总资本支出的0.07%至1.34%。

《人工智能法案》可以成为一种监管工具，以维护欧洲的价值观，并确保为开发人工智能系统和工具的公司提供更多资源，营造公平的竞争环境。

鉴于欧盟的《人工智能法案》目前是一把双刃剑，东盟成员国应努力使成员国之间的监管与即将出台的东盟人工智能监管框架趋于一致，并优先平衡人工智能的创新与监管。遵循这些准则，该地区可以培育一个具有竞争力和包容性的人工智能生态系统，同时坚持道德价值观，防止尖端技术的使用可能带来的恶意结果。

作者：Albert J Rapha 是德国全球与地区研究所的研究助理，也是鲁汶大学的研究生；Cindy Zheng 是巴黎政治学院和鲁汶大学的研究生。

编译：刘颖
责任编辑：潘美琪