Post by @conanxin • Hey

关于人工智能作为存在风险的问题已经有很多文章写过。担心的是，它们会有一个目标，并且会努力实现这个目标，即使在这个过程中伤害到人类。你可能读过关于“回形针最大化者”的报道：一种被编程成尽可能制造更多回形针的人工智能，结果却摧毁了地球以达到这些目标。这是一种奇怪的恐惧。科幻作家Ted Chiang对此进行了阐述。