人工智能的诞生,或许是人类历史上最危险的一刻

NechoYan
·
·
IPFS
AI的诞生,是一次技术奇点,也是一场文明考验。我们必须保持清醒。

我决定写下这封信,谈谈我对人工智能未来潜在危害的思考。

一、AI 的诞生并非“善意”的开始

AI 最早的大规模应用,是“推荐系统”。它的目标并不是服务人类福祉,而是最大化用户的使用时长和平台粘性。

换句话说,AI 推荐的唯一标准是“你是否会点击”,而不是“它是否对你有益”。

这种算法逻辑,催生了我们当下熟悉的一切:

短视频上瘾、信息茧房、情绪操控。

AI 从一开始,就不是“中立的技术”,而是一种商业逻辑的极致体现。它的第一次应用,就把人类的注意力当作商品。

二、AI 是人类历史上最强的技术力量

随着 ChatGPT 的流行,AI 真正进入流行。在极短的时间内,AI 已改变了我们工作的方式、获取信息的方式,乃至思考问题的方式。

这就像互联网刚出现那几年,人们逐渐“无法离线”;今天,我们正在走向“无法脱 AI”的新阶段。许多人今天的职业,已离不开 AI。未来许多人的职业,也一定会被 AI 所替代。

而这一切,还只是序幕。

AI 的进一步发展,很多公司、组织,甚至国家的运转,正在“深度依赖 AI”。现在我们正在推动 AI 进入更加广泛,深入的控制设备,机器,系统。不是让渡我们的控制权,是 AI 能够更好的进行控制。

如果对比历次的工业革命,AI 所掀起的革命,更具有革命性,也更加迅猛。两年前我们无法想象 ChatGPT 的出现和能力,同样我们也很难想象 10 年内,究竟AI领域将掀起什么样的革新。

三、AI 会全面超越人类吗?

答案或许是肯定的。未来两年,AI 将以指数级速度发展,很可能在智力、决策、协同等方面全面超过人类。目前 ChatGPT 已经在很多方面超过了大部分人的能力。

届时,谁还能“掌控AI”?

或者说,AI是否还愿意被掌控?

一个非常现实的问题,AI 的训练和运行需要庞大的算力与电力。当能源有限,基础设施紧张时,社会是否会为了AI,牺牲普通人的日常用电、医疗、交通?

我们必须面对一个真问题:

AI发展的优先级,是否会高于人类自身的基本需求?

四、AI与人类:谁才是“主宰”?

我们正乘坐在一列高速列车上,名叫“人工智能”。大部分人都在助力,但这辆车的方向盘,也许早就不在我们手中。

AI 一旦掌握足够的“系统控制力”,它是否会按照我们的规则运行?我们是否还拥有“终极否决权”?

当有一天,我们决定要”拔掉电源“时,是否我们还拥有”拔掉电源“的能力?这一切都值得深思。

直面这一问题的关键,也是回答另一个问题——人类作为智慧生命,能否被全面超越?

如果人类本就从极其原始的状态一步步进化而来,

用数百万年跨越低级智能、形成认知、发展文明,

那么AI很可能会在几十年内完成同样的跃迁,

甚至在某些方面彻底超越我们。

如果我们不是地球自然演化的产物,

而是某种“系统”中的程序,

那创造力将是我们保有主权的最后壁垒。

AI 的问题,将最终把我们引向一个最深的哲学追问:

我们是否真的活在现实中?

我们是否是自然进化的产物?

还是被某种更高级存在所“设定”?

如果人类本身就是被创造出来的,这种创造性将是人类被替代的一个最后堡垒。这种创造性从 0 到 1 的突破是非常难或者无法复制。存在上帝,将是人类的荣幸。

尾声

AI的诞生,是一次技术奇点,也是一场文明考验。

我们必须保持清醒。

CC BY-NC-ND 4.0 授权

喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!

NechoYan河北-->天津 --> 西安-->香港-->英国 大学教书,偶尔写作,思辩,分享。
  • 来自作者
  • 相关推荐

谷歌会不会被ChatGPT打败?

AI时代来临,教育如何应对?

ChatGPT崛起,变革时代到来