AI大模型时代，科技的狂奔绝不能缺少人文反思

据生命未来研究所官网，3月22日，生命未来研究所（Future of Life）向全社会发布了一封《暂停人工智能大模型研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能大模型的训练，暂停时间至少为6个月。图灵奖得主Yoshua Bengio、马斯克、苹果联合创始人Steve Wozniak、Stability AI 创始人Emad Mostaque等知名科技大佬的签名位列其中，以及还有其他上千名行业领袖和AI专家已经签署公开信。公开信指出，只有当我们确信强大的AI系统的效果是积极的，其风险是可控的，才应该开发，并且应该加快开发强大的AI治理系统。人工智能实验室和独立专家应在暂停期间，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，由独立的外部专家进行严格的审查和监督。公开信中也发出了一系列对人类灵魂的拷问：我们应该让机器在信息渠道中宣传不真实的信息吗？我们是否应该把所有的工作都自动化，包括那些有成就感的工作？我们是否应该开发非人类的大脑，使其最终超过人类数量，胜过人类的智慧，淘汰并取代人类？我们是否应该冒着失去对我们文明控制的风险？答案是明显的否定。只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发。同时，这种信心必须得到验证，并随着系统的潜在影响的大小而加强。OpenAI最近关于人工智能的声明中指出，在开始训练未来的系统之前，可能必须得到独立的审查，对于最先进的努力，同意限制用于创建新模型的计算增长速度。我们同意，现在就该采取行动。当然，公开信也说明这并不意味着暂停一般的人工智能开发，只是从危险的竞赛中退后一步，限制不可预测的研究和开发。人工智能的研究和开发应该重新聚焦于，使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。狂热的从业者，互联网思维与马太效应说实话，这一大段时间，我一直在关注AI大模型的行业发展以及应用，并对国内AI大模型的火热现状表示担忧。很多人把AI大模型比作汽车、数码相机、个人电脑的发明。我觉得这种类比是不恰当的。大模型的发展与以往其他领域的创新不同，它影响的人类与信息的关系，以及很多底层生存逻辑，并且会对人类的感知能力和认知能力产生进一步影响。我至今不太理解为什么有这么多所谓行业内的人，对AI大模型的热捧而欢呼雀跃，为AI即将革新各行各业而狂喜。后来我仔细观察了一下。对AI大模型热捧最高的基本是两类人。一类是人工智能领域的高知从业者（包括科学家，学者、企业家，投资人等等）。这些人往往都拥有海内外顶尖院校的高学历，大部分人都是社会中产及以上。同时，这些人往往都能比较自如的掌控信息、获取信息、处理信息，他们把AI大模型及应用看成是提升效率的跨时代利器。还有一类人是目前这波热度的投机者。从过去的区块链、web3、元宇宙能一直看到他们的身影。他们可能都说不清什么是AI大模型。但他们能通过快速的学习能力以及对商机敏锐的把握能力迅速获利。通过账号注册。社群运营、内容生成、工具服务、项目咨询等手段，收割小白的韭菜。当然，国内也有许多大佬纷纷出来拉团队创业做AI大模型。先不说我们国家到底需不需要这么多AI大模型。我所看到的是国内的AI大模型创业创新，大部分项目还是停留在互联网思维创业，即各种资源要素的堆砌，并通过快速迭代、大额融资、以及对行业同行人才的恶性抢夺，甚至并购整合的方式来完成快速迭代，拼速度，做第一个吃螃蟹的人。试问OpenAI从事通用人工智能研究已经八年了，并且针对大模型的发布版本也迭代了数次。难道我们通过资源堆积以及并购整合，就能做出自己的AI大模型来？是我们太自信？还是AI大模型太没有技术壁垒？我想说互联网思维应用在AI大模型的创新创业上，可能不灵。具体针对创新要素的分析，可以参考我的另一篇文章《【AIGC系列一】从创新要素剖析当下AI大模型应用的创新风口》科技洪流面前，普通人会受到更多的冲击最近在用ChatGPT，发觉很多普通人都会受到冲击。我得出一个结论，人工智能会让马太效应会加快。社会学的核心，就是残酷的马太效应，而AI大模型的到来，会加速这种效应。比方：过去老板招聘10个文员，每个月薪3000，10个就是3万。老板采用ChatGPT，解雇9个文员，只留一个用于修正最终打字结果，他每个月付给AI公司5000元使用费，这样月成本只需要8000元。我们可以看到的是：AI目前并没有能力完全取代部分工作岗位，而是提升了工作效率。但重要的问题是：你能劝说老板不解雇那9个员工吗？被解雇的9个员工，有的进工厂，有的摆摊儿，进厂的工人多了，薪资就会下降。摆摊的人多了，摆摊就不好赚钱，失业的人多了，整体社会就会内卷。而财富最终会从底层不断向上流动，最终赚钱的不一定是做AI的码农，而是背后的股东和高管、以及部分股票持有者。而部分码农，会自己把自己革命掉。以上的例子只是文员，实际上很多类似的工作，包括程序员、自媒体、网文写手等重复性工作岗位。然而这次AIGC与GPT的热潮，蹊跷的地方还在于，除了许多重复性的劳动外，还有很多创造性的工作，内容生成类工作的脑力工作同样受到冲击。未来的作家、设计师、画家会不会大量失业？艺术从业者、作曲家、设计师、码农会不会大量失业？目前有这个趋势。有些脑子不清醒的人，总是喜欢举汽车和马车的例子，这些人以为自己是开汽车的？不一定，说不定他们其实是个马车夫。不要高看了自己的所谓的“创造力”，小看了别人的“创造力”。在AI面前，这个世界上具备创造力的工作没那么多，你想的出来别人就想不出来？无非是又一轮内卷。AI大模型时代，科技的狂奔不能缺少人文反思移动互联网时代的到来，造就了信息大爆炸。而AI大模型将使得多模态的数据生成变得异常容易。那么这些海量的数据谁来消费？答案是人类。随着AI生成应用的日渐成熟，各种生成的文本，视频，图片信息量会进一步下降，生成内容会变得越来越不值钱，还会演变成信息垃圾。AI大模型的出现会加剧底层操作系统的垄断地位，也就是相当于加强版的操作系统。人类的认知和感知能力也会进一步退化。控制不好的话，最终会沦为机器的奴隶。这个节点到来后，无论是行业精英还是普通人，也都难独善其身。手机、微信、抖音这些就像精神鸦片一样，控制着每个人的生活、思维。（举例：抖音的注册用户已经超过了十个亿，其中日活用户高达八个亿）在此，我也想向所有行业同行呼吁：科技狂奔的同时，请也多多反思人文。AI大模型跑的再快，也不要在热浪中丢失灵魂。本期分享来自智汇港湾孵化器Alpha Bay北京负责人 / 投资总监 / 孵化导师刘玮玮老师 – PROFILE – 前星河互联投资合伙人