Новаторская работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, которые используются во многих современных продуктах, рассказывает CNN. В течение десяти лет он работал в режиме неполного рабочего дня в Google, занимаясь разработкой искусственного интеллекта технологического гиганта, но с тех пор у него появились опасения по поводу технологии и своей роли в ее продвижении.
“Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой”, — сказал Хинтон газете The New York Times.
В твиттере в понедельник Хинтон сообщил, что покинул Google, чтобы свободно говорить о рисках искусственного интеллекта, а не из-за желания конкретно критиковать Google.
“Я ушел, чтобы поговорить об опасностях искусственного интеллекта, не задумываясь о том, как это повлияет на Google”, — написал Хинтон в твиттере.
Джефф Дин, главный научный сотрудник Google, сказал, что Хинтон “совершил фундаментальные прорывы в области искусственного интеллекта”, и выразил признательность Хинтону за “десятилетний вклад в Google”.
“Мы по-прежнему привержены ответственному подходу к ИИ”, — сказал Дин в заявлении, предоставленном CNN. “Мы постоянно учимся понимать возникающие риски, одновременно смело внедряя инновации”.
Как отмечает CNN, решение Хинтона уйти из компании и высказаться о технологии было принято на фоне того, что растущее число законодателей, правозащитных групп и технических инсайдеров подняли тревогу по поводу потенциального появления нового поколения чат-ботов на базе искусственного интеллекта для распространения дезинформации и смещения рабочих мест.
Волна внимания, обрушившаяся на ChatGPT в конце прошлого года, помогла возобновить гонку вооружений среди технологических компаний по разработке и внедрению аналогичных инструментов искусственного интеллекта в свои продукты. OpenAI, Microsoft и Google находятся в авангарде этой тенденции, но и IBM, Amazon, Baidu и Tencent работают над аналогичными технологиями.
В марте некоторые видные деятели в сфере технологий подписали письмо, призывающее лаборатории искусственного интеллекта прекратить обучение самых мощных систем искусственного интеллекта как минимум на шесть месяцев, ссылаясь на “серьезные риски для общества и человечества”. Письмо, опубликованное Институтом будущего жизни, некоммерческой организацией, поддерживаемой Илоном Маском, пришло всего через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, которая поддерживает ChatGPT. В ранних тестах и демо-версии компании GPT-4 использовался для составления судебных исков, сдачи стандартизированных экзаменов и создания рабочего веб-сайта по нарисованному от руки эскизу.
В интервью The New York Times Хинтон повторил опасения по поводу потенциала искусственного интеллекта для устранения рабочих мест и создания мира, в котором многие “больше не смогут знать, что является правдой”. Он также указал на ошеломляющие темпы продвижения, намного превосходящие то, что он и другие ожидали.
“Идея о том, что этот материал действительно может стать умнее людей — в это верили немногие, — сказал Хинтон в интервью. – Но большинство людей думали, что это будет далеко не так. И я думал, что это будет далеко не так. Я думал, что до этого еще 30-50 лет, а то и больше. Очевидно, я больше так не думаю”.
Еще до того, как уйти из Google, Хинтон публично говорил о потенциале искусственного интеллекта приносить как вред, так и пользу.
“Я верю, что быстрый прогресс искусственного интеллекта преобразит общество способами, которые мы не до конца понимаем, и не все последствия будут хорошими”, — сказал Хинтон в своей вступительной речи в 2021 году в Индийском технологическом институте Бомбей в Мумбаи. Он отметил, как искусственный интеллект улучшит здравоохранение, одновременно создавая возможности для смертоносного автономного оружия: “Я нахожу эту перспективу гораздо более непосредственной и гораздо более пугающей, чем перспектива захвата власти роботами, до которой, я думаю, очень далеко”.
Источник: mk.ru
Еще новости:
Вирусолог рассказала, какие проверки должна выдержать вакцина от коронавируса
Ученый описал точный сценарий «встречи» астероида Апофиз и Земли
В три раза больше Земли: астрономы открыли загадочное космическое тело
Магический шар и барабан времен Стоунхенджа: древнее детское захоронение растрогало археологов
