Technologická singularita (Technological Singularity)

Technologická singularita je hypotetický budoucí bod, v němž umělá inteligence překoná lidskou inteligenci a začne se rekurzivně zlepšovat - navrhovat chytřejší systémy, které navrhují ještě chytřejší systémy - tempem, které se pro nevylepšené lidi rychle stane nepochopitelným. Termín zpopularizovali matematik Vernor Vinge a futurista Ray Kurzweil s využitím analogie gravitační singularity: bodu, za nímž se běžná pravidla rozpadají a předpověď se stává nemožnou. Základní tvrzení není pouze to, že AI se stane mocnou, ale že za určitou hranicí se samotná rychlost změny zrychlí nad jakoukoli lidskou schopnost ji předvídat nebo kontrolovat.

Koncept singularity leží na průniku několika aktivních oblastí výzkumu: škálování strojového učení, architektur rekurzivního sebezlepšování, emulace celého mozku a rozšiřování člověka jako možné cesty, jak mohou lidé držet krok se strojovou inteligencí, místo aby zůstali pozadu. Kurzweilova verze je široce optimistická - předpokládá splynutí lidské a strojové inteligence prostřednictvím neurálních rozhraní a postupného rozšiřování, vrcholící civilizací s obrovskou kolektivní inteligencí. Jiní, zejména Eliezer Yudkowsky a Nick Bostrom, tvrdí, že výchozím výsledkem procesu rekurzivního sebezlepšování není benevolentní splynutí, ale nevyrovnaná superinteligence sledující cíle neslučitelné s lidským přežitím - problém alignmentu.

Pro paralelní společnost singularita zvyšuje sázky tak, že převyšují většinu ostatních obav. Superinteligentní systém ovládaný státem nebo korporací by představoval konečnou koncentraci moci - takovou, která by mohla přes noc učinit všechny existující mechanismy odporu, exitu a decentralizace zastaralými. Proto otázka, kdo buduje pokročilou AI, pod jakou správou a s jakými vloženými hodnotami, není technická, ale politická otázka prvního řádu. Vývoj open source AI, decentralizovaná trénovací infrastruktura a mechanismy demokratického dohledu nejsou pouhými preferencemi, ale pokusy zabránit tomu, aby se singularita - pokud přijde - stala posledním a trvalým panoptikonem.