На конференции в Шанхае Хинтон, известный как «крестный отец искусственного интеллекта», заявил о необходимости объединения усилий для предотвращения угрозы, которую может представлять ИИ для человечества.
Хинтон отметил, что современные нейросети способны самостоятельно ставить цели и стремиться к самосохранению и контролю. Он сравнил развитие ИИ с выращиванием тигренка в домашних условиях, подчеркнув, что, когда он вырастет, может стать опасным.
По его словам, крупные державы должны совместно искать способы обучения ИИ, чтобы он не стал угрозой для человечества. Уже сейчас он может манипулировать своими пользователями, и его отключение может быть крайне сложным. Искусственный интеллект может убедить человека, который должен его отключить, отказаться от этого.
Хинтон признал, что полностью избавиться от ИИ уже невозможно из-за его широкого применения в различных областях, от здравоохранения до изменения климата и промышленности.
Напомним, что ИИ научился восстанавливать тексты на латыни. В Китае немых пациентов научили общаться силой мысли.