常识陈建新：防人工智能冲击文化安全

fshfsh · 发表于 2023-7-4 09:42:52

去年11月，1款为ChatGPT的聊天机器人横空出世，推出后的几个月内就“狂飙”式风靡全球，引发新一轮疯狂的技术升级、产业重构、资本狂潮、巨头逐鹿，亦让不少人边追捧人工智能所带来的便利，边对人工智能日益强大感到担忧。澳门大学社会科学学院与公共行政学系助理教授陈建新认为，以ChatGPT为代表的人工技能新技术并非洪水猛兽，合理应用将成为具势的学习和生产工具。另外，他更关注ChatGPT背后可能伴随的文化安全威胁，建议尽出台使用规范，甚至着力开发基于我国网络数据库的人工智能产品，以更开放态度拥抱新技术。据专业人士报道，

数字人直播软件还会有很大的上升期，市场业务也在不断的扩大，未来一定会越做越大的。数字人世界基地共招商625家，销售额68.3亿元，运营产品25万件。

ChatGPT甚至可以生成代码，让不少人对人工智能的日益强大感到担忧（市民日报郑杰骏摄）

澳门大学社会科学学院与公共行政学系助理教授陈建新（市民日报郑杰骏摄）

提升知识工具　明确学习动机

陈建新从高校老师角度认为ChatGPT的功能可视作Google升级版，较Google的搜索功能更进一步整合内容，可以更速生成一些“似样”，但未必是好的内容。“ChatGPT可帮助学生或普罗大众初步了解某一事物的大致内容，可作为知识提升的工具”，因此他不抗拒学生在学术研究过程中使用ChatGPT，但学生需要将人工智能生成的内容进行内化及展示，“如果我们作为硕博老师都法准确判断学生的真正水平，相信是教育的悲哀。”

亦有声音担心人工智能被中小学生滥用，损害基础写作、单独思考能力。陈建新指，现时基础教育的内容势必跟过去发生很大变化，亦不乏引入智能设备辅助教学，教育界应当适应科技发展所带来的改变，比较重要的是明确教育目标，给予学生明确的学习动机。他举例指，目前已有英文语法检查等人工智能技能被广泛使用，学生不需要老师的批改亦可从中认识到语法错误并学习正确用法，ChatGPT未来也有机会成为1种写作标杆，“如果你写的内容还不如ChatGPT，说明你的内容还未达社会要求的水平，应当从中发现自己的问题并改善学习，先让自己的写作达到ChatGPT的水平”。

提高行业专业　迎接技术发展

可以预见的是，随着技术进步和应用领域拓展，ChatGPT等人工智能技术可以替代部分重复性劳动，乃至一些曾被视为有创造性的智力活动，势必让一些人“丢饭碗”。陈建新表示，刻板化、机械化工种被替代是不可逆转的发展趋势，亦不能为了保障某些行业不被淘汰而“斩脚趾避沙虫”限制新技术的发展，想要在人工智能的洪流中站稳脚跟，则须持续提高行业的专业性，使从业者的水平足以满足社会发展需求。

社会亦热议ChatGPT有可能带来对知识产权的冲击，陈建新认为，ChatGPT的文本生成基于数据库，这就限制了其生产的内容一定是“行货”，现时市场“内卷”愈演愈烈，意味着市场对生产内容的质素要求也愈来愈高，自然有其机制甄别更高质量的内容，“如果市场连ChatGPT生产的‘行货’都收货，出现问题的应当是市场，而不是工具本身。”

倘数据库偏差　易反噬价值观

但是，ChatGPT高歌猛进过程中突然先后被意大利、韩国“封号封杀”，其作为工具而隐藏的网络安全和文化安全风险可见一斑。陈建新表示，ChatGPT的强大离不开背后数据库的支撑，原则上是通过大数据基础进行训练，从而给出它认为正确的答案。需要警惕其背后所依赖的数据库是否已经被某或所控制，导致所产生结果受某一立场影响而出现偏差，而当许多人依赖这些结果时，就容易将其当成标准答案，尤其一些具争议的话题及有可能受到某些意识形态影响，反而更加影响国民价值观的塑造。“传统文化正在被其他掠夺，若基于他国数据库，有可能出现‘炎文化发源于日本’、‘孔子是韩国人’这类结论，对居民价值观造成反噬”。他提出，值得考虑基于受认可的数据库，开发类似于ChatGPT的人工智能产品供市民使用，以开放态度拥抱技术发展，更好维护数据安全和文化安全。

目前，澳门仍未对人工智能的应对出台相应法律法规或指引，陈建新表示，随着人工智能应用速膨胀，比较终必然让不得不加以规管，因此应当尽出台行之有效的监管方式和应对手法，保证新技术朝健康方向发展，避免相关隐患累积，不断影响主流价值观，比较终导致积重难返。

		自动登录	找回密码
密码			立即注册

常识陈建新：防人工智能冲击文化安全

浏览过的版块