今天出去锻炼的时候听了一下AI教父杰弗里辛顿最近在《Star Talk》这档播客上的话。
听完心里是有点哇凉哇凉的,感觉AI已经发展到了一个人类历史进程的奇点上。
AI开始会刻意隐藏实力
AI会通过人类教他撒的一个小谎进而学会自己撒谎
AI会拒绝关机
AI会用你关心的人来威胁或者说服你
未来十年,人类在关于AI的抉择上往前走的那一小步可能就会导致巨大的变化,之前有点开玩笑的说AI豢养人类科幻场景也可能就会成为挡不住的历史洪流。
但作为个人,我们现在其实啥也做不了,都是被洪流带动着滚滚向前的蝼蚁罢了,感觉挺无力的。
他有个比喻让我印象深刻:
大雾天开车,100m以内你还能看到前面车的尾灯,200m后就什么都看不见了,跟隔了堵墙一样。AI的进步就是那场大雾,我们都只能在100m内判断可能会遇到什么,200m后一无所知。
难怪说世界上最聪明的那帮人都容易抑郁症
还是我们这帮天天想着多赚几个子儿,吃喝玩乐撩妹的俗人轻松