Poznáme, že umělá inteligence myslí? Problém s vědomím

Google vyhodil softwarového inženýra Blakea Lemoineho poté, co zveřejnil konverzaci s jejich konverzační inteligencí LaMDA a prohlásil, že jejich inteligence získala vědomí na úrovni dítěte školního věku a že má široké znalosti fyziky. Podle Google jejich konverzační inteligence pouze emuluje konverzaci a žádné vědomí rozhodně nemá.

Dobře: Co to ale přesně znamená? Jak poznáme, že inteligence má anebo nemá vědomí?

Vědomí je komplikovaný problém. Jsou tací, kteří tvrdí, že jenom lidé mají vědomí. A pak takoví, kteří upozorňují na to, ani lidé nemají vždycky vědomí: Nemají ho hned po narození, někdy ani těsně před smrtí, protože jde o proces, do kterého se jako lidé vynořujeme a pak z něj zase vyjdeme. Plus třetinu dne prospíme ve stavu, který rozhodně není vědomý – a rádi si pomáháme prostředky, které stav vědomí mění. Proto se také rozlišuje stav „plného vědomí“ a „změněného vědomí“, protože filozoficky je obtížné představit si, kam vlastně jde vědomí, když jdeme spát.

Každý má sice intuitivní dojem, že chápe, co vědomí je a co není, ale není to tak jednoduché. Descartes to měl jednoduché: „Cogito ergo sum“, myslím, tedy jsem. Co ale například vlčí děti, které se nenaučily mluvit, a tedy ani logicky myslet? Neexistují? Je fakt, že nedosáhly verbální inteligence a logiky to jediné, co je odlišuje od vědomí? Pokud mají stejný neuronový hardware a to, co je oddělilo od verbálního uvažování, je pouze výchova lidmi, znamená to, že vědomí je pouze důsledkem výchovy?