近期，包头市公安局电信网络犯罪侦查局发布了一起使用AI技术进行电信诈骗的案件，受害者10分钟内被骗430万元，“AI诈骗”的话题，冲上热搜。
(资料图片仅供参考)
本期《钛度热评》栏目特邀《香港国际金融评论》执行总编辑本力、沙利文头豹研究院分析师常乔雨和一篇网络主编赵宏民，一起就话题“‘AI诈骗’冲上热搜，AI‘出笼’后如何‘向善’？”进行了讨论。
关于人们应该如何防范AI诈骗。
《香港国际金融评论》执行总编辑本力表示，新型的人工智能与过去不同，它具有生成式或通用型的特点，使人类对其进行辨识的难度增加了很多。它具有情感和价值观层面的判断能力，这是之前人工智能很难做到的。虽然以前的人工智能服务都是命令式或召唤式的，但是现在它们可以根据对话进行更深入的交流，这给辨别带来了更大的挑战。这种人工智能的学习能力非常强，甚至比正常人类更发达，这也就意味着它可以用情感因素进行诈骗或其他活动，这是非常可怕的。需要提前预防这些可能性。
沙利文头豹研究院分析师常乔雨表示，人工智能的情感模仿能力和信息掌握能力越来越强，导致辨别真假越来越困难，诈骗率和收益也越来越高。因此，需要提高自己的信息安全敏感性，避免在公共场所泄露个人信息；如果遇到可疑情况，可以尝试问一些更抽象化的问题，如个人喜好、癖好等，避免询问结构化信息，以更好地辨别真假。
一篇网络主编赵宏民表示，目前AI诈骗已经开始出现在大家身边。为防范此类骗局，首先要主动学习人工智能。了解其能力，才能确定防范措施。AI已能模仿人类微表情等特征，但仍存在一些问题。传统的防骗方式，如签字确认制度，也应继续使用。应探索利用现代化技术加强传统方式的防范效果。
关于生成式AI的规范建设进展。
沙利文头豹研究院分析师常乔雨表示，中国在AI规范性建设方面的速度很快。GPT在去年11月份开始内测，12月份正式公测，今年4月份出台了人工生成式AI的管理办法。虽然政策内容还不够成熟和规范，但其提出了三个关键问题：责任归属权、国内客户使用AIGC服务需要遵守法规、所有提供AIGC服务的企业需要进行安全评估和报备。目前仍存在不少模糊问题，需要加快审批流程、规范性流程以及确定责任等方面的进一步发展。
一篇网络主编赵宏民表示，建立规范性框架需要找到合理平衡点，不能因为技术问题就暂停发展。虽然东西方法律的平衡点不同，但都应该遵守公序良俗，同时拥有一套价值观和道德标准，约束自己从而避免伤害他人。例如，科技公司派遣劳动力可能并不违法，但待遇差异仍然引发争议，因此需要寻找合法、合情、合理的平衡点，使不伤害他人、不损害别人利益成为企业自我评价的标准之一。
《香港国际金融评论》执行总编辑本力表示，规范性框架有三个层次：法律层面、行业层面和地方性标准。目前，国家已经发布了几项规定和指引，包括对于生态人工智能的管理、信息安全标准实践指南、人工智能伦理等内容。这些标准指引将成为行业性的规范并最终上升为国家法律。因此，作为行业从业者需要重视并遵守这些标准，以避免触及法律底线。同时，地方性标准如深圳市数据保护条例也对于数据治理和人工智能等方面制定了相关规范。这些规范的建立是一个演变过程，从软法到硬法的转变需要持续关注并适应。
关于AI技术应如何进行伦理治理。
《香港国际金融评论》执行总编辑本力表示，伦理治理是一个多层面的问题，许多企业因为涉及个人信息或其他问题而被整顿，这促使人们对人工智能和数据伦理有了更深入的认识。通过公开透明的方式治理技术，降低门槛并形成市场竞争，同时建立伦理服务机制和技术层面的保障，可以有效促进人工智能发展的安全、有效、道德、平等。
关于AI技术的应用如何规避法律风险。
一篇网络主编赵宏民表示，生成式AI技术属于相对较新的技术，法律对其的规定并不十分详实。但仔细研究法律条款时，会发现制定者非常有远见，法律能够适应这些新技术的发展。AI诈骗罪行符合法律对涉及虚假信息和骗取财物的定义。对于AI企业，即使技术不再具有颠覆性，也应该在早期咨询法律专家，确保自己符合法律规定，以避免法律风险。
沙利文头豹研究院分析师常乔雨表示，AIGC企业会面临静态和动态两类法律风险。针对这两类风险，可以通过制定合规流程、确认数据合规性、制定标准规则等方式减少风险，降低损失。需要注意的是，现有机制和权限可能不够完善，以应对法律风险。
《香港国际金融评论》执行总编辑本力表示，对于创新企业，人工智能是一个非常好的赛道。但不能只看法律条文，要有前瞻性，考虑伦理问题，回到法律诉求始终保障人的权益、平等、公正上。需要预判可能出现的需要治理的地方，避免风险。人与算法和平共处的五项原则中，尊重和保护人的尊严和权利是最基本的，是产品设计和运营中的底线。全过程都要有伦理问责机制和法律责任的认定流程，否则企业将面临法律责任。创业不是一朝一夕的，需要长期的投入和管理。
关于目前频发的侵权、诈骗事件是否会制约行业的发展。
沙利文头豹研究院分析师常乔雨表示，AIGC具有破坏力和潜在影响力，所以监管将非常严格。它们可能会导致众多法律和道德风险，政策也规定了提供AIGC接口的人的责任。这些监管制约了AIGC的发展，对行业产生了相当大的影响。因此，需要制定规范准则以保护人们的利益和将来的发展。
《香港国际金融评论》执行总编辑本力表示，对于创新事物的发展应该更包容，否则生产力将无法提高，与国际竞争的差距会越来越大。许多服务，如情感陪护和其他各种服务，都可以通过人工智能来提供效率和安全性。但是也必须注意风险，例如国家安全和个人数据收集等方面的风险。因此，需要制定相应的标准和制度，以便AI能得到更好和安全的发展。
一篇网络主编赵宏民表示，人工智能的发展会受到监管的制约，但创新的发展也需要包容和注意风险。前期的负面事件有教育意义，让人们更快地了解人工智能所带来的好处。行业巨头的加入促进了人工智能的发展，使人工智能超越了图灵测试，进入一个新的阶段，同时需注意安全问题和未来发展的启示。
《钛度热评》是由推出的热点事件观察栏目，主要邀请对不同行业发展、不同商业模式有着独到见解、深度观察的媒体人和行业从业者，通过多角度解读全面展示事件的影响和意义。
如果你关心最新趋势、有自己的独特见解、想同更多志同道合的人分享交流观点，欢迎添加《钛度热评》社群小助手微信：taiduzhushou，加入《钛度热评》社群，跟我们一起打造一个思考者的社群，让有价值的思考被更多的人看到！
关键词：
