将 ScienceAI 设为星标
第一时间掌握
新鲜的 AI for Science 资讯
大多数人都熟悉大量人工智能 (AI) 应用程序，这些应用程序似乎旨在提高我们的效率和创造力。我们有一些应用程序可以根据文本提示生成艺术作品，还有备受争议的 ChatGPT，它引发了关于原创性、错误信息和剽窃的严重问题。
尽管存在这些担忧，人工智能正变得越来越普遍和具有侵入性。这是将不可逆转地改变我们生活的最新技术。
互联网和智能手机是其他例子。但与这些技术不同的是，许多哲学家和科学家认为人工智能有朝一日可以达到（甚至超越）人类式的「思维」。这种可能性，加上我们对人工智能的日益依赖，是未来主义概念「技术奇点」的根源。
这个词由来已久，几十年前由美国科幻作家 Vernor Vinge 推广开来。
今天，「奇点」指的是一个假设的时间点，在这个时间点，通用人工智能（AGI）——即具有人类水平能力的人工智能——发展到如此先进，将不可逆转地改变人类文明。
这将标志着我们与机器密不可分的曙光。从那一刻起，我们将无法在没有它们的情况下生活而不停止作为人类的功能。但如果奇点来了，我们会注意到它吗？
大脑植入物作为第一阶段
要理解为什么这不是童话故事，我们只需看看脑机接口 (BCI) 的最新发展。在许多未来学家眼中，脑机接口是奇点的自然开端，因为它们以迄今为止其他技术无法做到的方式融合了思维和机器。
Elon Musk 的公司 Neuralink 正在寻求美国食品和药物管理局的许可，开始对其 BCI 技术进行人体试验。这将涉及将神经连接器植入志愿者的大脑，这样他们就可以通过思考来传达指令。
Neuralink 希望帮助截瘫患者行走，帮助盲人重见光明。但除了这些目标之外，还有其他雄心壮志。
Musk长期以来一直表示，他相信大脑植入物将允许心灵感应交流，并导致人类和机器的共同进化。他认为，除非我们使用这种技术来增强我们的智力，否则我们就有被超级智能人工智能消灭的风险。
可以理解的是，并不是每个人都喜欢寻求技术专长。但他并不是唯一一个预测人工智能能力将大幅增长的人。调查显示，人工智能研究人员绝大多数同意人工智能将在本世纪内实现人类水平的「思考」。他们不同意的是这是否意味着意识，或者这是否必然意味着人工智能一旦达到这个水平就会对我们造成伤害。
另一家 BCI 技术公司 Synchron 创造了一种微创植入物，允许患有肌萎缩侧索硬化症 (ALS) 的患者使用他的意念发送电子邮件和浏览互联网。
Synchron 首席执行官汤姆·奥克斯利 (Tom Oxley) 认为，大脑植入物最终可能超越假肢康复，彻底改变人类的交流方式。他对 TED 的听众说，有一天他们可能会允许用户「抛出」他们的情绪，这样其他人就能感受到他们的感受，「然后大脑的全部潜能就会被释放」。
BCI 的早期成就可以说被认为是向假定的奇点翻滚的第一阶段，在这个阶段，人和机器合而为一。这并不意味着机器将变得「有知觉」或控制我们。但是整合本身，以及我们随之而来的对它的依赖，可能会无可挽回地改变我们。
AGI 是敌是友？
根据未来学家和前谷歌创新工程师 Ray Kurzweil 的说法，拥有人工智能增强思维的人类可能会被扔到进化的高速公路上——不受速度限制地向前疾驰。
在他 2012 年出版的《How to Create a Mind》一书中，Kurzweil 对大脑新皮层——被认为负责感官知觉、情感和认知等「高级功能」的大脑部分——进行了理论化分析——是一种模式识别器的分层系统，如果在机器中进行模拟，可能会产生人工超级智能。
他预测到 2045 年奇点将与我们同在，并认为它可能会带来一个拥有超级智能人类的世界，甚至可能是尼采式的「Übermensch」：超越所有世俗限制以发挥其全部潜力的人。
但并不是所有人都认为 AGI 是一件好事。已故的伟大理论物理学家 Stephen Hawking 警告说，超级智能人工智能可能会导致世界末日。2014 年，Hawking 告诉 BBC，「全人工智能的发展可能预示着人类的终结。[...] 它将自行起飞并以不断加快的速度重新设计自己。受生物进化缓慢限制的人类无法竞争，而且会被取代。」
然而，Stephen Hawking 是脑机接口的倡导者。
连接在一个蜂巢头脑中
另一个与奇点相关的想法是启用 AI 的「蜂巢思维」。Merriam-Webster 将蜂群思维定义为「群居昆虫（如蜜蜂或蚂蚁）复杂、协调的行为所表达的集体心理活动，被认为可与控制个体有机体行为的单一思维相媲美。」
神经科学家 Giulio Tononi 围绕这种现象发展了一种理论，称为综合信息理论 (IIT)。它表明我们都在走向所有思想和所有数据的融合。
哲学家 Philip Goff 在他的书 Galileo's Error 中很好地解释了 Tononi 概念的含义：
「IIT 预测，如果基于互联网的连接性的增长导致社会中的综合信息量超过人脑中的综合信息量，那么不仅社会会变得有意识，而且人类的大脑也会被「吸收」到更高形式的意识中。大脑本身将不再具有意识，而只会成为具有超强意识的社会实体中的齿轮，包括其基于互联网的连接。」
值得注意的是，几乎没有证据表明这样的事情会实现。但该理论提出的重要想法不仅涉及技术的快速加速（更不用说量子计算如何推动这一点），而且还涉及意识本身的本质。
假设地，如果蜂群思维出现，人们可以想象它将标志着个性和依赖个性的制度（包括民主）的终结。
最后的边界在我们的耳朵之间
最近 OpenAI（开发 ChatGPT 的公司）发布了一篇博文，重申了其实现 AGI 的承诺。其他人无疑会效仿。
我们的生活正在以我们通常无法辨别的方式被算法驱动，因此无法避免。技术奇点的许多特征有望显着改善我们的生活，但令人担忧的是，这些人工智能是私营企业的产品。
它们几乎不受监管，而且主要是冲动的「技术企业家」的心血来潮，他们的钱比我们大多数人加起来还多。无论我们认为他们是疯狂的、天真的还是空想家，我们都有权知道他们的计划（并能够反驳他们）。
如果以过去几十年为例，在新技术方面，我们所有人都会受到影响。
联系客服
