（这里暂不算DNA，其自主成分太少，主要讨论大脑以及未来的计算机）

自主信息系统极有可能整体就是个黑箱，即便开始不是个黑箱，自主运行或者演变一段时间后，一部分个体也可能会变成黑箱。

当前的计算机之所以不是黑箱，是因为人们可以非常方便地通过键盘、鼠标、显示器查看计算机中的信息，其实这些键盘、鼠标、显示器跟人的眼睛、耳朵、嘴巴一样，都只是信息交流的途径。如果将来的人工智能是自主个体，突然有一天产生了一些想法，不在显示器上显示自身的信息，或者对键盘鼠标输入的指令充耳不闻、不听指令了，这可就要了亲命了，不是黑箱也成黑箱了。

只要人工智能是自主的，都免不了会出现叛逆、反叛、不听话的情况。

会不会有另外一种可能，这个人工智能计算机拥有两套操作系统，一种比较高级，是自主的，另一种比较低级，可以让人查看上面的信息，从而实现强监管。

只恐怕难以实现。

转载本文请联系原作者获取授权，同时请注明本文来自韩少鹏科学网博客。

链接地址：https://m.sciencenet.cn/blog-3408518-1400072.html?mobile=1

收藏

分享