AI时代下，如何看待“算法利维坦”？程序员客栈程序员客栈?

ChatGPT的浪潮从2022年袭来后，至今热度不减，呈现出蓬勃发展的趋势。AI+家居、医疗、教育、金融、公益、农业、艺术......AI真的已经走进了生活的方方面面，我们仿佛已经进入了AI时代，势不可挡。人工智能水平如此之高，不禁感慨背后算法的强大。当技术发展过快，带来的有便捷、焦虑、困惑等诸多思考。强大的智能算法带来社会效益的同时，也附带着不可避免的社会风险，即算法利维坦，从而影响着一个国家的上层建筑。

一、何为算法利维坦？

有1才能有1+1，有利维坦才能有算法利维坦。
提问：什么是“利维坦”？
回答：霍布斯，将因主权观念而能够支配一切、宛如魔神一般几乎拥有无限权力的主权国家，称为“利维坦”——至尊的巨灵。

是霍布斯“无限政府”设计图的体现，本质上属于政治概念。霍布斯是这样解释主权国家底层逻辑的：把所有人的权力和力量托付给某个特定的人，或者能够集合大家意志的多人集合体。简单地说就是，人类缔约建立的为人类提供安全和秩序的强大机构。

这里，可将主权国家看作一个权力的集装箱。（以上，略显枯燥生疏的大段背景可自行跳过。省时又省流，hhh...）

而算法利维坦，就是随着技术自主性的日益凸显，算法嵌入政治体系，深刻影响政治价值、权力。是一种“利维坦”的智能形态。人们极其依赖于利维坦提供的安全，会因为缺乏对其制约而受其约束。那么，对于算法利维坦，人们则可能会因享受技术的便利而逐渐沦为其附庸。使得算法利维坦具有权力让渡的半契约逻辑，算法时代的公民可能基于生活便利和政治安全的目的将自己的权力让渡于算法权力，从而导致公民处于弱势地位。

二、ChatGPT的运行机制是什么？

当下，ChatGPT无疑是最火的AI代表。

ChatGPT属于生成式AI，一款遥遥领先的人工智能语言模型。

“预训练+微调”为其基本的算法逻辑，整体架构遵从“基础语料+预训练+微调”，强大的算力是其运行的动力，海量数据为其训练的基础。（浅浅带过一下，非本文重点）

现象级走红的背后，更有对ChatGPT算法的忧虑，因其算法权力行使和运行全过程均处于黑箱状态。再次回到前文“算法利维坦”的论述逻辑。

三、当下AI发展过快引发的争议

有思考，就会有问题，有问题，就会有疑虑，有疑虑就会有争议。

同样，以ChatGPT为例，对社会就业、伦理、法律......方方面面的争议铺天盖地地袭来。

这里，可以简单讨论一下，TA 令人诟病的地方，毕竟GPT也还存在很多问题。

1.有些领域内专业性不够，深入程度不够。毕竟是基于海量数据训练，搜集到的数据中存在的偏颇等问题，同样会吸收，可能导致生成的内容不够合理。例如，借助其写代码，会发现它到处都是瑕疵、不能细看。
2.推理可信度。常见表现为驴头不对马嘴的对话。
3.可解释性差。黑盒特性导致它难以自证，看似合理而难寻其迹。在严谨、精细要求领域难以应用。
......

这些是ChatGPT自身的客观问题，同时，也存在社会现象反响更高层次的问题。

从小写作文就知道讲“科技是把双刃剑”，义务教育诚不欺我。

1.类ChatGPT的大语言模型，带来语言对话便捷的同时，也可能存在同搜索引擎一样搜集过多个人信息和隐私的问题。

2.产生类似人类记忆失误的“幻觉”现象。过多训练数据的投喂，ChatGPT并没有明辨是非的能力，它可能以不容置疑的语言胡说八道。

3.引发法律问题。AI基于大量信息自动生成语言，尤其是人文社科领域，更是难辨真假，知识产权认定和保护更是难上加难。

4.威胁社会安定。在搜集信息的过程中，可能会挖掘政府等重要部门的机密信息，甚至出现操纵舆情的现象。

当时，它横空出世，不少人见识到它的本事后，都开始担忧自己会不会被取代，引发了一种人心惶惶的气氛。虽

它的确存在不完美的地方，但是，它才发展几年？未免太小看科技的发展速度了。

这些都是小打小闹，就连国家层面，算法都不曾缺席。

西方现已进入了智能选举的新时代，其政治选举已上升到了数据资源和算法技术的较量。对选民进行算法瞄准、精准挖掘，以科技的手段操控着选民的心理和行为，（联系到生活实际，可以参考某音里大数据精准推送给你的视频。）使得算法瞄准渐渐地走向了民主政治的对立面。

可以看到，算法利维坦下，我们大众是处于弱势地位的。

四、如何寻求正解？

2021年9月，安东尼奥·古特雷斯秘书长公布了关于《全球数字契约(Global Digital Compact)》的倡议;

2023年5月，联合国发布了政策简报“全球数字契约——为所有人创造开放、自由、安全的数字未来”。

随着时代的进步，AI的飞跃式发展，我们应该更重视冰山水面下那剩下的八分之七。

结语

马克思早已告诉我们真理，”经济基础决定上层建筑，上层建筑反作用于经济基础。“

日新月异的当下，数字法治应该究竟应该如何去制约算法利维坦，如何去保障我们的权益，仍须静待花开。

参考资料
[1]张爱军.“算法利维坦”的风险及其规制[J].探索与争鸣,2021(01):95-102+179.
[2]季卫东.主权的嬗变——数字化“魔兽世界”与法律秩序创新[J].交大法学,2023(05):5-17.DOI:10.19375/j.cnki.31-2075/d.2023.05.006. [3]张建云,孙璐萌.马克思主义理论视域下ChatGPT的功能、本质及意义[J].兰州学刊,2023(10):5-15.
[4]秦涛,杜尚恒,常元元等.ChatGPT工作原理、关键技术及未来发展趋势[J/OL].西安交通大学学报,2024(01):1-11[2023-12-09].
[5]王中原.算法瞄准与智能选举：算法如何重塑西方选举[J].社会科学文摘,2021(08):31-34.
http://kns.cnki.net/kcms/detail/61.1069.T.20231016.1403.012.html.
https://xkzzz.com/post/272266.h