随着人工智能越来越擅长模仿人类的声音，人们越来越担心AI技术可能会反过来攻击人们，例如帮助犯罪分子获取个人银行账户，并传播错误信息。
当地时间9月24日，OpenAI宣布针对ChatGPT订阅用户推出高级语音功能，起订价为每月20美元，该工具可实现更自然流畅的对话。
OpenAI在今年5月就已经宣布这项新的语音功能，不过由于ChatGPT的声音之一Sky被指与2013年电影《她》中斯嘉丽·约翰逊的声音相似疑似侵权，OpenAI将Sky暂时下线。
今年早些时候，OpenAI还曾推出语音复制工具Voice Engine，但当时并未向公众开放，理由是“合成语音滥用的可能性”。
随着人工智能越来越擅长模仿人类的声音，人们越来越担心AI技术可能会反过来攻击人们，例如帮助犯罪分子获取个人银行账户，并传播错误信息。
近日，英国网络贷款机构Starling Bank警告称，数百万人可能成为利用人工智能克隆声音骗局的受害者。
这家英国银行表示，诈骗者能够利用人工智能从某人在网上发布的视频和音频中复制出其声音，这些音频只需要持续三秒钟，诈骗者就可以识别该人的朋友和家人，并使用人工智能克隆的声音打电话索要钱财。而大部分人不了解存在此类AI语音克隆诈骗，还有一部分人会按对方的要求汇款，造成财产损失。
“人们经常在网上发布包含自己声音录音的内容，却从未想过这些录音会被一些不法分子利用，成为诈骗案的受害者。”Starling Bank在一份声明中表示。
对此，星展集团首席执行官高博德日前接受第一财经记者采访时表示：“我们更希望人工智能可以成为发现骗局的工具，实际上这种技术本身非常适合用来检测异常情况，从而将有嫌疑的行为标注出来，进行深入的调查分析。”
高博德表示，星展银行已经开展了很多工作，这些工作将为未来防范人工智能诈骗奠定基础。“现在，包括新加坡在内的很多政府都非常重视数据标注的格式，制定相应的标准和指导方针，我认为，这对于未来相关AI监管措施的落地非常重要。”他对第一财经记者说道。
伴随着AI快速发展和广泛应用，其带来的风险和挑战也在增多。在这一背景下，AI的治理已经引起全球企业的高度关注。
2019年，新加坡就成为首个推出AI治理框架的国家，为企业和消费者提供负责任使用AI的指南，这一指南在2022年就进行了更新，涵盖生成式AI。
“我们认为迭代学习的方法是更加明智的，这样才有可能尽量避免AI带来的所有潜在危害。”新加坡政府首席AI官员何瑞敏在今年的上海世界人工智能大会上表示。
近日，联合国人工智能高级咨询机构发布了一份关于人工智能（AI）治理的重要报告，呼吁国际社会共同努力，建立一个真正意义上的全球性AI监管和治理机制。
“人工智能技术在某种程度上体现了现代社会的趋势，整个宏观治理框架必须进行调整和适应，以应对这些风险。”高博德对第一财经记者表示。
与此同时，AI技术的快速应用正在改变企业和经济全球人工智能相关产品市场持续增长。贝恩公司在9月25日发布的第五次年度全球科技报告中预计，AI相关市场规模有望在2027年接近1万亿美元。
