译｜技术的青春期
直面并克服强大 AI 的风险
在电影版《接触未来》（Contact）中有这样一个场景：主角，一位刚刚探测到外星文明首个无线电信号的天文学家，正被考虑作为人类代表去接触外星人。在面试她的国际小组中，有人问：“如果你只能问 [外星人] 一个问题，你会问什么？”她的回答是：“我会问他们，‘你们是怎么做到的？你们是如何进化，如何在没有自我毁灭的情况下度过这技术的青春期的？’”当我思考人类目前在 AI 领域的处境——以及我们将面临的一切——我的脑海中不断浮现这个场景，因为这个问题极其切中我们当前的处境，我真希望能有外星人的答案来指引我们。我相信我们正在进入一个通过仪式，既动荡又不可避免，它将考验我们作为一个物种的本质。人类即将被赋予几乎难以想象的力量，而我们的社会、政治和技术系统是否拥…
