在日本动漫作品中人工智能的设定随处可见，比如大家都熟悉的阿童木、哆啦A梦，还有CLAM阿姨们的大作《人型电脑天使心》中可爱的萌少女小叽，这些都是和谐人机关系的例子。不过在美漫及美国大片中倒是有不少机器人反水虐杀人类的例子，假如现实中人工智能真的有反水的那天，人类该怎么办？近日谷歌与牛津大学研究人员就在研究一种能够一键扼杀天网觉醒的技术。

谷歌收购了英国人工智能公司 Deep Mind后，开发了人工智能程序AlphaGo因击败世界围棋冠军而名声大噪，但同时也引发了类似《未来终结者》那样天网对人类杀戮的“审判日”到来的担忧。牛津大学的哲学家尼克·博斯特罗姆曾发出的警告：“如果毫无限制地分享人工智能的研究成果，在没能确保安全的情况下，一些不怀好意的人可能就会利用它干坏事。”而如果人工智能技术继续不断发展下去，也有可能存在人工智能超越人类智慧，不再受到人类控制而对人类造成致命威胁的情况。

基于以上情况的考虑，谷歌的AlphaGo研发团队在一份公开的声明中表示，他们正在研发一种“保险开关”，防止机器人在某些情况下失去控制而对人类造成伤害。谷歌表示，“在很多情况下，对机器人采取安全中断措施是非常有必要的，它能够导致一些无法控制的后果出现。”不过如果人工智能真的发展出了不受人类控制的智慧，这样的按钮就真的能起到作用吗？会不会像一些动漫中一样出现人工智能占领的地球的情况呢？