Илон Маск противостоит «опасности», которую представляет собой пробужденный ИИ — включая инструмент, созданный компанией, коучредителем которой он является

По сообщениям, Илон Маск собирает исследовательскую группу для борьбы с тем, что он назвал «смертельной» угрозой пробужденного искусственного интеллекта. Маск, 51 год, в последние недели связался с избранной группой «исследователей искусственного интеллекта» с целью формирования новой исследовательской лаборатории для разработки альтернативы ChatGPT, согласно данным The Information. В декабре основатель PayPal, Tesla, SpaceX и других предприятий предупреждал о потенциальных рисках, связанных с ростом инструментов ИИ, таких как ChatGPT, который Маск упомянул как один из примеров «обучения ИИ быть пробужденным». Согласно отчету, Маск — который недавно вновь стал самым богатым человеком в мире — надеется привлечь ряд ведущих исследователей ИИ, включая Игоря Бабушкина, который работал в подразделении DeepMind AI материнской компании Google — Alphabet. Это своего рода переворот для Маска, который коучредил OpenAI, компанию, создавшую ChatGPT, поскольку теперь он стремится создать конкурента компании, которую сам основал. Когда Геневьева Рош-Дектёр, генеральный директор Grit Capital, написала о иронии предупреждений Маска о том, что ИИ представляет «одну из самых больших угроз для цивилизации» после того, как он коучредил OpenAI, Маск ответил, что такое развитие никогда не было его намерением. «OpenAI была создана как открытая платформа (поэтому я назвал её «Открытым» ИИ), некоммерческая компания, чтобы служить противовесом Google, но теперь она стала закрытым, максималистским по прибыли предприятием, фактически контролируемым Microsoft», — ответил он. «Это совсем не то, что я имел в виду». Говоря виртуально на Саммите мировых правительств в Дубае, Объединенные Арабские Эмираты, в начале этого месяца, Маск снова выпустил предупреждение о настоятельной необходимости регулирования ИИ. «Одна из самых больших угроз для будущего цивилизации — это ИИ», — сказал Маск. «Но ИИ может быть как позитивным, так и негативным — у него есть большие обещания, большие возможности, но с этим приходит и большая опасность». Предупреждения Маска далеки от новизны: еще в 2017 году Маск сказал, что надеется, что еще не зрелый OpenAI поможет минимизировать опасности, которые технологии ИИ представляют для человека как вида. Обещая помочь предотвратить превращение мира в реальный фильм «Терминатор», Маск даже тогда признал, что у OpenAI есть неблагоприятные условия. «Может быть, есть пять-десять процентов шанса на успех», — сказал он тогда. Его мрачные предсказания вызвали некоторое недовольство среди экспертов ИИ, таких как Тоби Уолш, профессор ИИ в Университете Нового Южного Уэльса, который заявил, что замечание Маска является паникерским. «Существует здоровая исследовательская группа, работающая над тем, чтобы гарантировать, что эти машины не будут представлять экзистенциальную угрозу для человечества», — сказал Уолш. «Я ожидаю, что к тому времени они точно определят, какие меры предосторожности нужны». Суббаро Камбхампати, который преподает информатику в Университете штата Аризона, также охарактеризовал заявления Маска как паникерские. Камбхампати сказал, что Маск, вероятно, думает о ситуации, связанной с «суперинтеллектом», которую он описал как «необоснованную» в интервью с Inverse. Со своей стороны, Маск предложил решения потенциального доминирования экономической деятельности ИИ: CEO Tesla сообщил на Саммите мировых правительств в Дубае в феврале 2017 года, что человечество должно стать частью машины, чтобы иметь возможность взаимодействовать и справляться с постоянно развивающимися формами технологии, иначе рискует стать нерелевантным. Маск поднял сценарий массовой занятости, поскольку ИИ может начать замещать человеческий труд в всё большем количестве профессий. По мере улучшения технологий машинного обучения и робототехники, «будет всё меньше и меньше профессий, которые робот не сможет выполнить лучше», — сказал он. Ключ к тому, чтобы сохранить конкурентоспособность людей, добавил Маск, заключается в «более тесном объединении биологического интеллекта и цифрового интеллекта». Люди, по словам миллиардера, должны сократить разрыв: «Всё в основном сводится к полосе пропускания, скорости соединения между вашим мозгом и цифровой версией вас, особенно по выходу». Маск, вероятно, имел в виду это биологическое усовершенствование, когда основал Neuralink, медицинскую технологическую компанию, которая, по сообщениям, разрабатывает инструмент, способный не только «читать» нейронную активность, но и «записывать» сигналы в мозг. В то время Маск заявлял, что технология была помещена в мозг обезьяны и что животное смогло управлять компьютером с помощью своих мыслей. Он стремился внедрить её в человека к концу 2019 года. Эта цель в конечном итоге была пересмотрена в декабре, когда Маск объявил, что ожидает успешной разработки беспроводного мозгового чипа Neuralink и начала клинических испытаний такого устройства к середине 2023 года. «Причина, по которой я создал Neuralink в долгосрочной перспективе как меру по снижению рисков цифрового суперинтеллекта, в том, что если мы сможем эффективно достичь симбиоза с цифровым интеллектом, то … коллективная человеческая воля лучше способна направить всё в том направлении, в котором мы хотели бы, или, по крайней мере, просто прокатиться вместе с добрым ИИ», — сказал он в интервью The Babylon Bee в декабре 2021 года. «Мы уже в какой-то степени являемся киборгами … так как наши телефоны, компьютеры и приложения являются цифровым расширением нас самих на данный момент.