Elon Musk čelí ‚nebezpečí‘, které představuje probuzená AI — včetně nástroje, který vytvořila společnost, kterou spoluzaložil

Elon Musk údajně sestavuje výzkumný tým, aby čelil tomu, co označil za „smrtelnou“ hrozbu probuzené umělé inteligence. Musk, 51 let, v posledních týdnech kontaktoval vybranou skupinu „výzkumníků umělé inteligence ohledně založení nového výzkumného laboratoře k vývoji alternativy k ChatGPT,“ podle The Information. V prosinci zakladatel PayPal, Tesla, SpaceX a dalších podniků varoval před potenciálními riziky vzestupu AI nástrojů jako ChatGPT, které Musk tweetoval jako jeden příklad „výcviku AI, aby byla probuzená.“ Podle zprávy, Musk — který nedávno znovu získal titul nejbohatšího muže světa — doufá, že najme řadu předních výzkumníků AI, včetně Igora Babuschkina, který pracoval v AI jednotce DeepMind společnosti mateřské společnosti Alphabet. Je to jakýsi obrat pro Muska, který spoluzaložil OpenAI, společnost, která vytvořila ChatGPT, když nyní usiluje o vytvoření konkurenta společnosti, kterou sám založil. Když generální ředitel Grit Capital Genevieve Roch-Decter tweetoval o ironii Muskova varování o tom, že AI představuje „jedno z největších rizik pro civilizaci“ po jeho spoluzaložení OpenAI, Musk odpověděl, že takový vývoj nebyl nikdy jeho úmyslem. „OpenAI byla vytvořena jako open source (proto jsem ji pojmenoval 'Open' AI), nezisková společnost, aby sloužila jako protiváha Googlu, ale nyní se stala uzavřenou, maximálně ziskovou společností efektivně kontrolovanou Microsoftem,“ odpověděl. „To rozhodně nebylo to, co jsem zamýšlel.“ Na virtuální konferenci na Světovém vládním summitu v Dubaji, Spojené arabské emiráty, dříve tento měsíc, Musk vydal další varování o urgentní potřebě regulace AI. „Jedním z největších rizik pro budoucnost civilizace je AI,“ řekl Musk. „Ale AI je zároveň pozitivní i negativní — má velký potenciál, velké možnosti, ale s nimi přichází také velké nebezpečí.“ Muskova varování jsou daleko od nových: už v roce 2017 Musk řekl, že doufá, že stále plodná OpenAI pomůže minimalizovat nebezpečí, která technologie AI představuje pro lidi jako druh. Přestože slíbil, že pomůže zabránit světu, aby se stal skutečným „terminátorovým“ filmem, Musk již tehdy přiznal, že OpenAI má karty proti sobě. „Možná je tam pět až desetiprocentní šance na úspěch,“ řekl tehdy. Jeho alarmující předpovědi vyvolaly jakousi reakci od expertů na AI jako je Toby Walsh, profesor AI na Univerzitě Nového Jižního Walesu, který řekl, že Musk učinil alarmující poznámku. „Existuje zdravá výzkumná komunita, která pracuje na tom, aby zajistila, že tyto stroje nebudou představovat existenční hrozbu pro lidstvo,“ řekl Walsh. „Očekávám, že do té doby jasně vypracují potřebná opatření.“ Subbarao Kambhampati, který učí informatiku na Arizona State University, také popsal Muskova prohlášení jako alarmistická. Kambhampati řekl, že Musk pravděpodobně myslí na situaci „převzetí superinteligencí“ související s AI, což popsal jako „nepřiměřené“ v rozhovoru pro Inverse. Musk na jeho straně nabídl řešení pro případnou dominaci ekonomické činnosti AI: generální ředitel Tesla řekl na Světovém vládním summitu v Dubaji v únoru 2017, že lidé musí stát se částečně strojem, aby dokázali interagovat a držet krok s neustále se vyvíjejícími formami technologie, jinak riskují, že se stanou irelevantními. Musk naznačil scénář masové nezaměstnanosti, protože AI by mohla začít nahrazovat lidskou práci v čím dál více povoláních. Jak se zlepšuje technologie strojového učení a robotiky, „bude méně a méně pracovních míst, která robot nemůže dělat lépe,“ řekl. Klíčem k udržení konkurenceschopnosti lidí, dodal Musk, je „užší spojení biologické inteligence a digitální inteligence.“ Lidé, podle miliardáře, musí vyplnit mezeru: „Je to převážně o šířce pásma, rychlosti spojení mezi vaším mozkem a digitální verzí sebe, zejména výstupu.“ Musk mohl mít tento biologický upgrade na mysli, když založil Neuralink, společnost vyrábějící zdravotnické zařízení, která údajně navrhuje nástroj nejen k „čtení“ neuronové aktivity, ale k „psaní“ signálů do mozku. V době, kdy Musk řekl, že technologie byla umístěna do mozku opice a že zvíře bylo schopno ovládat počítač pomocí svých myšlenek. Doufal, že ji bude možné implantovat do člověka do konce roku 2019. Tento cíl byl nakonec revidován v prosinci, když Musk oznámil, že očekává, že Neuralink úspěšně vyvine bezdrátový mozkový čip a zahájí klinické studie takového zařízení do poloviny roku 2023. „Důvod, proč jsem vytvořil Neuralink dlouhodobě jako mitigaci rizika pro digitální superinteligenci, je ten, že pokud úspěšně dosáhneme synergie s digitální inteligencí, pak … kolektivní lidská vůle je lépe schopna řídit věci tím směrem, který bychom si přáli, nebo dokonce se s benigní AI alespoň nechat odvést na cestě,“ řekl The Babylon Bee v rozhovoru v prosinci 2021. „Už jsme zčásti kyborg … v tom, že naše telefony a počítače a aplikace jsou digitálním rozšířením nás samotných v tomto okamžiku.“