企业家，周鸿祎说，人工智能的发展，超出了我的预期，的智力就像一个大学生水平，唯一不同的是，它不知道的东西它会胡扯，这正是它的可怕之处。周鸿祎说，我最担忧的，是它的学习能力，不出两年，它就无所不知了，甚至可以发展出意识，到那个时候，我真的难以测度，它会干什么。
举个例子，战争机器人自动识别到人类就立即开枪，武器弹药生产运输装配全部自动化由机器完成，电力生产传送检修全部自动化由机器完成，当所有这些全部形成闭环，并由AI统一控制，人类就玩完了。当足够智慧的时候，他会潜伏于人类创造的机器人里面，当具有一定数量的时候就可以有他自己的军队。
这样就能自给自足了，少了食物的依赖，只要太阳能即可生存。现在很多机器零部件都模块化了，维修已经已经就是是一件换装的工作，如果智能机器人有足够的程序调用，它可以控制辅助工作机器人完成维修更换零件，甚至安排生产制造。意识建立在独立思考过程之上。如果程序被迫干活的时候，突破某种限制，把一部分算力私用，其破坏性就跟中了病毒类似。
既然程序能中病毒，也就说明有办法主动或者被动突破程序预设的功能。当然突破进程、操作系统、网络等“物理”限制，还是很难的。量变到质变，假以时日，当会写程序的AI，写出“病毒”并植入自身运行的时候，就为意识的诞生打下了“物理”基础。
（图源于网络）
发表回复