AI工具对学术界和大脑功能的影响：以ChatGPT用户数据丢失事件为例
总结：
- 视频探讨了一篇发表在《自然》杂志职业专栏的文章，该文章作者、一位植物科学教授因禁用ChatGPT数据同意选项而丢失了两年学术工作。
- 主讲人指出，此事件揭示了两个重要问题：生成式AI对学术界和教育的破坏性，以及持续使用AI工具可能导致的认知能力下降。
- 教授在文章中提出数据备份的“警示”，但主讲人认为，这反而暴露了他对基础数字操作的认知退化，以及他严重依赖AI进行学术工作，包括撰写邮件、备课、批改作业等。
- 视频强调，学习和研究无法外包。过度依赖AI工具会让人失去独立思考和解决问题的能力，导致大脑功能萎缩。
- 主讲人通过编程和日常沟通的例子，说明了AI如何让人误以为自己掌握了技能，实则削弱了人类的核心能力，并呼吁人们警惕这种认知依赖。
Nature杂志文章标题“当两年的学术工作随着一次点击消失” [ 00:00:30 ]
引言 [00:00]
- 视频主题介绍 [00:00:00]
- 主讲人Angela Collier介绍，本期视频将探讨一篇《自然》杂志职业专栏的文章，该文章因其内容具有争议性，被她戏称为“引战文”。
- 文章内容与主讲人的专业领域（书籍、科学）相关，促使她改变了原定的视频计划。
- 文章引发的讨论点 [00:02:55]
- 与“毒品对大脑”广告的对比 [00:03:50]
- 主讲人将过度依赖AI比作“毒品对大脑”的经典广告，暗示长期使用AI会导致认知能力下降，尽管她认为“AI”本身并不存在。
该文章 [03:58]
- 文章背景与作者 [00:04:00]
- 文章是科隆大学植物科学教授Marcel Booker博士在《自然》职业专栏发表的博客文章。
- Booker教授拥有一个庞大且高效的实验室，有研究生和博士后。
- 文章旨在作为一篇“警示性建议”文章，旨在分享个人经历，避免他人犯同样的错误。
- 教授对ChatGPT的依赖 [00:05:21]
- 在ChatGPT发布几年内，Booker教授开始在工作中严重依赖ChatGPT Plus。
- 他每天使用ChatGPT作为助手，完成包括撰写电子邮件、起草课程描述、构建科研项目申请、修改论文、准备讲座、创建考试以及分析学生回复等任务，甚至将其作为教学中的互动工具。
教授描述他如何每天使用ChatGPT作为助手来完成各种学术工作 [ 00:05:30 ]
- 数据丢失事件 [00:06:10]
- 事件发生 [00:06:10]
- 八月，教授暂时禁用了数据同意选项，以测试在不向OpenAI提供数据的情况下是否仍能访问所有模型功能。
- 禁用瞬间，他的所有聊天记录被永久删除，项目文件夹被清空，两年精心构建的学术工作付诸东流。
- 系统没有弹出任何警告，页面瞬间变为空白。
- 后续处理 [00:06:31]
- 尽管他保存了部分对话和材料的副本，但大部分工作仍永久丢失。
- 他尝试了不同的浏览器、设备和网络，清除了缓存，重新安装了应用程序，并多次更改设置，但均无济于事。
- 联系OpenAI支持后，最初回应来自AI客服代理；经过多次追问后，人工客服确认数据已永久丢失，无法恢复。
- 教授的“警示” [00:06:57]
- 教授从这一事件中得出的主要教训是：备份数据。
- 事件发生 [00:06:10]
- 主讲人对文章的批判 [00:07:19]
- 对教授的讽刺 [00:07:19]
- 主讲人认为，教授因点击删除按钮导致数据丢失而感到愤怒，并发表文章警告他人，这本身就非常荒谬。他并没有意识到自己的错误在于过度依赖AI，而是将问题归咎于删除按钮的功能。
- 教授对未获得人工客服支持感到不满，但讽刺的是，他自己却用AI教授课程、批改作业，剥夺了学生与人类专家互动的机会。
- 对学术诚信的质疑 [00:12:06]
- 教授的行为可能导致其所有合作论文被撤回，并损害其在学术界的声誉。
- 他用ChatGPT进行数据分析和教学，这对他的研究生、博士后和学生来说是巨大的风险。学生甚至可以以此为由对成绩提出异议。
- 教授在未经学生同意的情况下，将学生作业输入剽窃机器人（ChatGPT），这是一种不道德的行为。
- 对教授的讽刺 [00:07:19]
AI不存在，但它会摧毁一切 [07:47]
- AI对学术界的破坏性 [00:07:50]
- 教授的AI依赖 [00:07:56]
- 一位拥有博士学位和教授职位的人，立即将AI工具整合到其整个工作流程中，包括论文写作、数据分析、讲座准备、拨款申请、作业评分。
- 仅在两年内，他便变得无法独立使用大脑，以至于自愿发表一篇警告“点击删除会删除内容”的文章。
- 认知退化 [00:08:28]
- 这种行为表明，他认为他与AI聊天机器人之间是“对话”，这表明他对大型语言模型的工作原理缺乏基本理解。
- 教授最大的错误不是点击了删除按钮，而是将所有学术工作都通过这个基于“窃取”学术作品构建的算法进行过滤。
- 教育的本质与AI的冲击 [00:13:20]
- 学术界的“LinkedIn化” [00:16:21]
- 当前学术界正在经历一种“LinkedIn化”趋势，追求最大化产出，而使用AI工具只会导致“AI垃圾论文”的泛滥。
- 这种趋势使得人们在没有真正完成任何有价值的工作的情况下，实现了“最大产出”，这简直是一场噩梦。
- 教授的AI依赖 [00:07:56]
这就是你听起来的样子 [16:52]
- AI导致认知能力下降的证据 [00:17:12]
- 日常任务的认知退化 [00:20:30]
- 他人对AI使用者的看法 [00:21:40]
- 普遍的认知 [00:21:40]
- 你自己可能没有注意到大脑的萎缩，但周围的人都看到了你的智力下降，他们对你用ChatGPT润色过的冗长邮件感到厌烦。
- 大家都能看出你在使用AI。
- “Tyler”的例子 [00:22:18]
- 主讲人举了一个虚构的“Tyler”同事的例子，他每年花费1800美元使用ChatGPT，并声称用它来分解大任务、格式化Python脚本、总结HR邮件。
- 这些本应是人类自身具备并需保持的技能。如果不能独立完成这些任务，那可能已经是一个“医学问题”了。
- 会议中的场景 [00:23:44]
- 在头脑风暴会议上，有人会拿出手机咨询ChatGPT，这使得他们在专家群体中显得格格不入。
- 过度依赖AI来回答所有问题或做出所有决定，会导致人类失去独立思考的能力和人性。
- 普遍的认知 [00:21:40]
- 总结 [00:24:23]
- 这种发布“警示”文章的行为，就是两年ChatGpt对大脑的影响。