中华网数码

设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
业 界/ 互联网/ 行 业/ 通 信/ 数 码/ 手 机/ 平 板/ 笔记本/ 相 机
当前位置:滚动新闻>

南都发布生成式AI治理倡议,赛博昆仑郑文彬联署参与

南都发布生成式AI治理倡议,赛博昆仑郑文彬联署参与
2023-07-11 19:10:58 来源:财讯网

7月7日,由南方都市报、清华大学人工智能国际治理研究院主办,中国科协-复旦大学科技伦理与人类未来研究院和上海人工智能实验室协办的“人工智能创新与治理”论坛在上海召开。本次论坛邀请了多位来自国内外的大咖专家参与,并针对近年来出现的AI换脸诈骗、大模型生成虚假信息、AIGC版权归属争议等聚焦生成式AI潜在的风险与问题,发布了《生成式AI伦理与治理倡议书》(下称《倡议书》)。据了解,这也是国内首份由智库媒体发起、跨行业联动发布的生成式AI治理与伦理倡议书。赛博昆仑创始人兼CEO郑文彬,与30余位专家、学者、公众人物一道,联合署名发布了本次倡议书。

《倡议书》提到,近年来,“AI诈骗”、“AI犯罪”等关键词开始走入公众视野,出现了一系列“网聊10分钟骗走430万元”等真实案例,而利用AI换脸、AI拟声技术等佯装好友实施诈骗,以及利用人工智能软件 “捏造”罪名、生成虚假案例,生成内容涉嫌侵犯知识产权等问题,更是屡屡见诸媒体。

如何区分足以“以假乱真”的AI生成内容、当AI生成内容造成侵权或违法问题时,如何认定相关责任,以及类似的问题如何利用技术手段去管理,都成为本次会议讨论的焦点。

据南都数字经济治理研究中心介绍,本《倡议书》最终形成了“七大原则”和“七大建议”,内容包括确保安全、客观公正、信息披露、尊重自主、可问责可追溯、人工把关、敏捷治理等。其中“确保安全原则”提出,相关企业或组织应采取足够的管理措施和技术手段,积极防范生成式AI技术产品的漏洞攻击风险,并在产品的整个生命周期中保证用户隐私及个人信息的安全。

赛博昆仑方面表示,随着人工智能技术的高速发展,特别是AIGC出现以后,网络安全开始遭遇到新的问题与挑战,新使用场景,带来了新的攻击手段和安全隐患。对此,除了社会各界深入关注、恪守公德边界之外,技术手段的“硬手段”,往往才是最终的解决之道。

赛博昆仑代表认为,AIGC的内容安全不仅仅牵涉到数据以及隐私泄露,也同时关乎模型训练、标注、应用,以及长期舆情监控的各个环节,其中任何一个环节存在漏洞,都可能引入相关风险。对此,赛博昆仑代表表示将充分发挥自身优势,与社会各界一道,积极参与应对防范AIGC安全问题的行动中来。

作为《倡议书》的签署方,赛博昆仑在防范漏洞攻击、确保信息安全方面,恰恰是国内顶级技术能力驱动的网络空间安全服务商,在高危漏洞攻防、0day漏洞预警应急等方面,拥有国内首屈一指的技术实力。公司旗下安全研究团队“昆仑实验室”,由国内顶尖安全研究人员组成,自成立以来,已多次斩获Pwn2own、天府杯、强网杯精英赛等国际顶级黑客大赛最高荣誉。而其旗下高级攻防团队成员,则均来自一线大厂的攻防实验室,并作为攻击队核心成员,在大型护网、区域/行业级护网、企业级护网中表现优异,取得过多项优秀成绩。

赛博昆仑代表最后表示,未来将从技术角度出发,积极践行《倡议书》的原则和方向,为生成式AI更加健康、稳定的长远、安全发展,贡献自己的力量。

 

责任编辑:kj005

文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com
关键词:

个保法颁布一周年:个性化广告发展需平衡隐私保护与用户体验

2022-11-14 11:53:20个保法颁布一周年:个性化广告发展需平衡隐私保护与用户体验

2022年全球折叠手机总销量将首度超过千万部大关

2022-02-09 11:40:212022年全球折叠手机总销量将首度超过千万部大关

印度市场智能手机出货量出炉:vivo占比排名第三

2022-02-08 11:19:13印度市场智能手机出货量出炉:vivo占比排名第三

平板电脑进入新的竞争阶段 重新夺回市场主导权

2022-02-07 16:52:08平板电脑进入新的竞争阶段 重新夺回市场主导权

2021年四季度中国手机市场苹果占有率位居第一

2022-01-27 13:33:342021年四季度中国手机市场苹果占有率位居第一

预测2022年中国市场智能机销量达3.4亿部 同比增长8%

2022-01-26 14:57:26预测2022年中国市场智能机销量达3.4亿部 同比增长8%

相关新闻