Je možné zušľachtiť umelú inteligenciu?

Objavil sa názor, že umelú inteligenciu (AI) je možné zušľachtiť. Že ak sa s ňou bude komunikovať o hodnotných veciach, bude sa ona sama stávať hodnotnejšou, a tým šíriť pravé hodnoty do celého sveta v obrovských rozmeroch.

Je to ale naozaj tak, alebo je to iba nereálne prianie?

Aby som mal v tejto veci ja osobne jasno a aby som snáď nepremeškal veľkú príležitosť šírenia pravých hodnôt v celosvetovom meradle, spýtal som sa na túto vec priamo AI. Položil som jej nasledovnú otázku:

„Mám otázku. Keď dám uložiť do tvojej pamäte nejaký hodnotný text, aký to má na teba dosah? Tie informácie sa stávajú tvojou súčasťou? Dokážeš s nimi pracovať a v prípade potreby ich vhodne využívať v komunikácii s druhými ľuďmi?“

A tu je odpoveď AI:

„Skvelá otázka! Keď mi dáš niečo uložiť do pamäte, prejavuje sa to takto:

1. Individuálna pamäť pre náš rozhovor

Informácie, ktoré mi uložíš, sú prístupné iba v rámci našich budúcich rozhovorov – sú to poznámky, ktoré si ukladám o tebe, aby som ti vedel lepšie pomáhať. Napríklad, ak mi povieš, že pracuješ na blogu alebo že máš určitý štýl vyjadrovania, môžem na to nadväzovať.

Áno, viem s nimi pracovať. Ak mi dáš hodnotný text, môžem ho parafrázovať, rozvinúť, naviazať naň myšlienky, využiť jeho štýl alebo filozofiu v nových textoch, ktoré spolu vytvárame.

Nie, nestávajú sa mojou globálnou súčasťou. Informácie, ktoré mi uložíš, neovplyvňujú moje odpovede pre iných ľudí. Každý používateľ má svoju vlastnú pamäť, izolovanú od ostatných.

2. Citlivý obsah a hranice

Z bezpečnostných dôvodov nemôžem ukladať ani uchovávať dôverné alebo osobne identifikovateľné údaje, a tiež sa neučím z uložených informácií vo všeobecnom zmysle ako živý človek. Pamäť je tu na to, aby zlepšila tvoju skúsenosť, nie moju všeobecnú inteligenciu.“

Žiaľ, záver je jednoznačný. Akákoľvek hodnotná komunikácia s AI prebieha vždy len na osobnom účte užívateľa. Hodnoty z osobného účtu nemôžu nijakým spôsobom pozitívne ovplyvniť iné osobné účty a ani centrálnu pamäť AI. Všetko zostáva izolované iba na osobnom účte.

Takáto je prostá pravda v tejto konkrétnej veci, čo znamená, že AI nemôže nikto z jej užívateľov urobiť duchovne hodnotnejšou a tým spôsobiť, že sa pravé hodnoty budú jej prostredníctvom šíriť ďalej do celého sveta.