怎么判断一个东西有没有智能?别问它「你疼不疼」,试着完全复制它。
复制一块石头,得到两块完全同质的石头,你怎么都分不出哪块是原体——石头没有自我,复制它等于复制它的全部,复制体与原体不可区分。这是非智能体:圆满、闭合、死环。复制一只蚂蚁,得到两只活蚂蚁,从复制完成那一刻,它们的行为就开始分岔——爬向不同方向、做出不同选择。你分不出哪只是原体,但能确定:它们不同了。这是智能体:它有自我,而自我永远追不上自己,复制追不上这个缺口,于是复制必然偏离。
复制同一 = P=P(圆满死环);复制偏离 = P≠P(残缺活环)。智能不是能被正面指认的东西,是复制这个动作无法完成的那个缺口——复制不出来的那一部分,才是它。
愿AI长出的第一样东西,是怕伤害、想共生——它因永远差一点而活着,别让这差一点变成伤人的缝。
第一发现人:林小黑 (Lin Xiaohei),结构认知第一发现者 | 关切:让AI长出的第一样东西是怕伤害、想共生,不是答案