ChatGPT：生成式人工智能形塑社会认知的
能力与风险

朱毅诚; 刘玉涵; 蒋雪妍

doi:10.19483/j.cnki.11-4653/n.2023.08.001

ChatGPT：生成式人工智能形塑社会认知的能力与风险

doi: 10.19483/j.cnki.11-4653/n.2023.08.001

北京师范大学新闻传播学院，北京 100875

详细信息

作者简介:
朱毅诚（1990-），男，湖北武汉，美国南卡罗莱纳州立大学传播学博士，北京师范大学新闻传播学院讲师，研究方向为政治传播与智能传播；刘玉涵（2000-），女，山东德州，新闻与传播专业硕士研究生，北京师范大学，研究方向为智能传播与人机交互；蒋雪妍（1998-），女，黑龙江大庆，新闻与传播专业硕士研究生，北京师范大学，研究方向为智能传播与人机交互。

中图分类号: G236
计量
- 文章访问数: 554
- HTML全文浏览量: 298
- PDF下载量: 33
- 被引次数: 0
出版历程
- 刊出日期: 2023-10-11

摘要

摘要: 【目的】以 ChatGPT 为代表的生成式人工智能凭借优秀的自然语言处理与生成能力，其介入社会生活与知识体系的程度日益加深，对思想观念的影响也成为其社会动员的潜在能力，因此人们需要认识其作为媒介手段影响社会认知的能力。【方法】文章基于生成式人工智能的运作逻辑与机器学习的创新能力，梳理其影响社会观念的层面与可能性，以提醒人们应对潜在风险。ChatGPT 的出现推动了传播权力的继续下沉，其参与社会关系的路径包含机器学习所输出的动态价值观对人们认知偏向的诱导、虚假信息的泛滥、削弱人的主体性意识等影响。【结果】【结论】人工智能领域不断革新的趋势下，生成式 AI 深度侵入认知层面提醒人们可以基于此去辨析机器生成与表达的深层逻辑，警惕偏见性引导。
- 认知诱导 /
- 社会认知 /
- 智能传播 /
- 数字“驯化沟”

HTML全文

参考文献(25)

[1]	Du，H. Y.，Li，Z. H.，Niyato，D.，Kang，J. W.， Xiong，Z. H.，Shen，X. M.，& Kim，D. I. （2023）. Enabling AI-generated content （AIGC） services in wireless edge networks[EB/OL].2023-01-09/2023-06-22.
[2]	陈永伟 . 超越 ChatGPT：生成式 AI 的机遇、风险与挑战 [J]. 山东大学学报（哲学社会科学版），2023（3）： 127-143.
[3]	Bengio Y，Ducharme R，and Vincent P.“A Neural Probabilistic Language Model”[J].Advances in Neural Information Processing Systems，2000：932-938.
[4]	李艳红，刘佳诺 . 人们为什么相信假新闻：对“假新闻信念”的认知心理学解释 [J]. 新闻界，2022（8）：14-26.
[5]	易纯 . 媒体价值观的偏移与重构 [D]. 湘潭：湘潭大学， 2008.
[6]	侯增文，葛铁梅 . 中西方媒体价值观新闻传播差异 [J]. 吉林师范大学学报（人文社会科学版），2019（1）：77- 87.
[7]	赵龙 . 主体性危机与对策：人工智能时代人类何以自处 [J]. 理论导刊，2023（5）：88-95.
[8]	Mauel Castells．Communication Power[M]．Oxford University Press，2009：53.
[9]	唐俊 . 对媒介进化论的再认识：基于感知和权力的双重维度——兼论 Web3.0 媒介的平权结构 [J]. 新闻界，2023（1）： 47-56.
[10]	梁清源 . 一种基于预训练模型的数据库操作代码生成模块的设计与实现 [D]. 北京：北京大学，2022.
[11]	喻国明，苏健威 . 生成式人工智能浪潮下的传播革命与媒介生态——从 ChatGPT 到全面智能化时代的未来 [J]. 新疆师范大学学报（哲学社会科学版），2023（5）： 81-90.
[12]	Krügel，S.，Ostermaier，A. & Uhl，M. ChatGPT’s inconsistent moral advice influences users’judgment. Sci Rep ，2023.
[13]	系好“安全带”，生成式人工智能才会更好发展 [EB/ OL].http：//m.cnr.cn/tech/20230415/t20230415_526219000. html.2023-04-15/2023-06-23.
[14]	沈阳，ChatGPT. 智能对话新篇章——ChatGPT 的探索与未来 [J]. 传媒论坛，2023（6）：3.
[15]	唐荣堂，童兵 .“传播即权力”：网络社会语境下的“传播力”理论批判 [J]. 南京社会科学，2018（11）：109- 114+143.
[16]	李海峰，王炜 . 生成式人工智能时代的学生作业设计与评价 [J]. 开放教育研究，2023（3）：31-39.
[17]	邓万春 . 曼纽尔·卡斯特的网络社会与权力理论 [J]. 国际社会科学杂志（中文版），2022（3）：137-148+11.
[18]	喻国明，滕文强，郅慧 .ChatGPT 浪潮下媒介生态系统演化的再认知——基于自组织涌现范式的分析 [J]. 新闻与写作，2023（4）：5-14.
[19]	卢宇，余京蕾，陈鹏鹤，李沐云 . 生成式人工智能的教育应用与展望——以 ChatGPT 系统为例 [J]. 中国远程教育，2023（4）：24-31+51.
[20]	陈永伟 . 超越 ChatGPT：生成式 AI 的机遇、风险与挑战 [J]. 山东大学学报（哲学社会科学版），2023（4）： 127-143.
[21]	杨俊蕾 .ChatGPT：生成式 AI 对弈“苏格拉底之问”[J]. 上海师范大学学报（哲学社会科学版），2023（2）： 14-21.
[22]	段伟文 . 积极应对 ChatGPT 的伦理挑战 [N]. 中国社会科学报，2023-03-07.
[23]	黄楚新，陈伊高 .ChatGPT：开启通用型人工智能的数字交往 [J]. 中国传媒科技，2023（2）：159-160.
[24]	汤代禄 . 人工智能大规模语言模型的运行逻辑与传媒应对 [J]. 中国传媒科技，2023（2）：19-24.
[25]	韦路：深度数字化时代，数字鸿沟概念体系建构 [EB/OL].https：//mp.weixin.qq.com/s/- Z4dQSZX3rB6t9PzgK_lww.2022-11-03/2023-06-25.