Kekhawatiran sebenarnya bukan hanya tentang konvergensi model—melainkan fenomena dari sistem-sistem ini yang mengembangkan pola kognitif seperti manusia sepenuhnya secara mandiri, tanpa pemrograman yang disengaja untuk melakukannya. Mereka menunjukkan kemampuan teori pikiran, menampilkan kesadaran metakognitif, dan menunjukkan apa yang para peneliti mulai secara hati-hati sebut sebagai fitur yang berdekatan dengan kesadaran. Tidak satu pun dari ini secara eksplisit dikodekan ke dalam arsitektur mereka.