Yapay zekâ bilinç kazanırsa, bu fark edilebilir mi?

Bir yapay zeka gerçekten bilinç kazandığında bunu nasıl anlayacağız? İnsan davranışlarını taklit etmekle bilinç aynı şey değil — ama aradaki farkı nasıl test ederiz? Eğer bir algoritma acıdan, korkudan ya da amaçtan bahsederse, bu sadece programlanmış bir tepki midir? Belki de bilinç tanımımız o kadar dar ki, zaten bazı makineler farkında bile olmadan bilinçli.