Странным образом ещё недавно чуть ли не главный символ современности и будущего Илон Маск становится диссидентом своего времени. Мало того, что он стал поддерживать Трампа. Истории, о которой мы поведаем ниже, уже почти полгода, однако она подняла весьма серьезные вопросы, так что есть повод вернуться к ней в «ином прочтении».
Пять месяцев назад Маск подал в суд на американскую компанию OpenAI, которой в своё время и руководил, входя в состав совета директоров. Это предприятие известно тем, что в своё время разработало, пожалуй, самую известную в мире программу искусственного интеллекта – ChatGPT.
В своём иске Маск обвинил главу OpenAI Сэма Альтмана и президента Грегори Брокмана в том, что они нарушили пункты соглашения, которое было заключено ещё в 2015 году. Тогда Маск, Альтман и Питер Тиль организовали компанию, у которой была чёткая цель. Они желали, чтобы искусственный интеллект развивался на пользу человечеству, а не во вред.
При организации Open AI были продекларированы такие принципы работы корпорации, как открытость и прозрачность, ведь общество должно знать, чем и как занимается фирма в столь чувствительной для социума сфере.
Профилем компании, понятное дело, стали разработки в области искусственного интеллекта (ИИ) и развитие технологий AGI (artificial general intellect, «общий» или «универсальный искусственный интеллект», также называемый сильным искусственным интеллектом). Это искусственный интеллект на уровне разума здорового человека.
Прозрачность должна была обеспечить не только открытая финансовая отчётность компании, но и приверженность её к открытому исходному коду (open source). Это означало в теории, что любой грамотный программист может оценить, насколько опасен продукт компании для людей, процессов, машин. А также внести в него свои правки.
Но время шло, OpenAI добилась успеха. Её продукт ChatGPT, запущенный 2022 году быстро стал популярен.
Ещё бы! Ведь генеративный искусственный интеллект сам может писать за вас тексты, переводить их, писать программы и поддерживать диалог. Вот радости-то было лентяям-студентам, не желавшим самостоятельно писать курсовые и дипломы!
Однако, когда к «компании друзей» Маска присоединилась в качестве якорного инвестора гигакорпорация Microsoft, дело приобрело иной оборот. Структура Билла Гейтса вложила более 13 млрд долларов в проект и де-факто приватизировала его. Код ChatGPT стал закрытым, как и его большая языковая модель. Это-то и возмутило Маска.
В ноябре 2023 года в OpenAI был обновлён совет директоров. Маск заявлял, что в него более не входят учёные и исследователи, разбирающиеся в ИИ. Теперь компания намерена выжимать максимум из технологии GPT-4, которая была представлена в 2023 году.
«При новом совете директоров OpenAI не просто разрабатывает, но оптимизирует ИИ, чтобы максимизировать прибыль для Microsoft, а не принести пользу человечеству. Ее технологии, включая GPT-4, имеют закрытый исходный код, что прежде всего служит собственным коммерческим интересам Microsoft», - заявлял в мартовском иске владелец Tesla.
В иске Маск требовал запретить Альтману, Брокману, OpenAI и Microsoft зарабатывать на универсальном искусственном интеллекте (УИИ) и вернуться к принципу открытого кода. Отметим, что сам Маск вышел из проекта в 2018 году.
Каковы бы ни были цели «рыцаря современности» Маска в этом иске, он его отозвал. У тяжбы не было серьезных юридических перспектив, так как некоторых из основополагающих документов просто не существовало, на что и указала OpenAI.
Некоторые аналитики рынка считали, что тогда миллиардер просто хотел развивать собственный аналогичный проект. Однако главное прозвучало: Маск обвинил Microsoft и OpenAI в возможном ущербе интересам человечества. А это уже серьёзно.
Ведь дискуссия о социальном, экономическом, гуманитарном и цивилизационном эффекте от внедрения развитого, сильного ИИ ведётся уже не первое десятилетие. В начале она была уделом сугубо академических людей. Однако в прошлом десятилетии, с ускорением прогресса в этой области, она перешла и общественную плоскость.
Маск, кстати, считается одним из алармистов в данном вопросе, т.е. регулярно указывает на этические и экзистенциальные риски внедрения элементов ИИ в бизнес. Ведь совершенные алгоритмы могут даже анализировать биоритмы человека и понимать, когда он захочет поесть. И предложить ему либо еду, либо сходить за ней (самому человеку или роботу). А если человек решил похудеть?
Алгоритмизация, массовое внедрение машинной и конвейерной сборки в 1960-1970-е уже радикальным образом изменило общества, которые приступили к ним – речь о Западе. С 1980-х годов, когда к этому добавился вывод производств в другие страны, там существует устойчивая безработица, в 10-20% населения. А это миллионы «лишних людей».
Нельзя сказать, что об этом не предупреждали светлые умы человечества и того же Запада. Например, известный социолог и философ Маршалл Маклюэн в совместной книге с Квентином Фиоре «Война и мир в глобальной деревне» ещё в 1968 году поименовал технологический прогресс процессом «самоампутации».
Если просто, то развитием машин, человек отдаёт ей какую-то из своих функций, «ампутирует её». Калькулятор считает за нас – значит не нужно считать самим. Какие последствия это влечёт, читатель пусть догадается сам.
«Компьютерная революция превзошла грандиозностью изобретение колеса. Она куда сильнее изменила мировоззрение человека и человеческую организацию... Если колесо – продолжение ноги, то компьютер – продолжение нашей нервной системы, которое существует благодаря обратной связи...», - писали Маршалл и Фиоре.
Аналогично, в те же годы свою знаменитую «Сумму технологии» выпустил известный польский фантаст и философ Станислав Лем. И его выводы не особо утешительны: развитие технологий приведёт к неизбежному изменению всей природы человека.
А если ещё проще – к его возможному замещению Машиной. Сегодня, спустя более чем полвека, мы всерьез подошли к этому порогу.
Только один пример: интернет полностью устранил профессию снабженца, существовавшую со времён СССР до нулевых годов. Зачем кому-то ездить по промпредприятиям и складам и работать между ними «связным», если всё можно заказать через всемирную паутину?
А теперь собираются тестировать беспилотные трамваи, в Москве и Петербурге. Всё в одну строку, как говорится. Неудивительно, что тот же Маск как-то назвал ИИ одной из самых больших угроз человечеству. Вытеснение человека выгодно всем – бизнесу, власти – кроме самого человека.
Именно поэтому сейчас человечество стоит перед необходимостью широкомасштабной, планетарной, дискуссии о пределах применимости ИИ. Пока что сильным мира сего не до этого. Но время идёт и потому однажды мы можем оказаться во вселенной «Терминатора» или «Бегущего по лезвию».
Мыслители консервативного направления, вроде того же Дугина, уже не один год бьют тревогу по всему миру. Невероятно, что в их число попал сам Маск, ещё некоторое время бывший символом безудержного прогресса. Но потому есть надежда, что ещё не всё потеряно. И элиты этого мира не заместят нас беспрекословными роботами.