Эд Дейви: остановить сверхразумный ИИ договором о нераспространении

Эд Дейви призывает к заключению международного договора о нераспространении, аналогичного тому, что существует для ядерного оружия, чтобы остановить разработку сверхразумного искусственного интеллекта. По его мнению, проблема решается не за счет привлечения Дональда Трампа или «техно-предпринимателей».

В своей программной речи на конференции либерал-демократов в Брайтоне, в последний день мероприятия, лидер партии предложит глобальную паузу в развитии сверхразумного ИИ. Он сравнил эту гонку с ядерной, которая может привести к появлению технологий, способных «уничтожить нас всех».

Дейви планирует представить предложения по созданию нового международного агентства по безопасности ИИ, подобного МАГАТЭ, с штаб-квартирой в Великобритании. Это предложение прозвучало на фоне многочисленных предупреждений исследователей ИИ о возможном уничтожении человечества в течение десятилетия. «Мы же не доверили атомную бомбу нескольким миллиардерам, чтобы они сами себя контролировали», — подчеркнул он.

Лидер либерал-демократов ожидает, что его речь послужит призывом к созданию нового глобального движения, направленного на защиту человечества от рисков сверхразумного ИИ. Он отметил, что МАГАТЭ было создано странами, «объединившимися для контроля над технологией, способной уничтожить всех нас». Однако, по его словам, будущее ИИ сейчас решается «крошечным числом самых богатых и влиятельных в Калифорнии и Пекине», без каких-либо механизмов замедления его развития.

«Как либералы, мы понимаем, что столь экзистенциальные вопросы, как ядерное оружие или изменение климата, нельзя оставлять в руках нескольких влиятельных лиц. То же самое касается и ИИ. Мы не можем полагаться на Марка Цукерберга, Сэма Альтмана или Илона Маска, чтобы они нас спасли», — заявил Дейви.

Накануне, в понедельник, премьер-министр объявил о новом партнерстве с США в области ИИ. Это произошло перед выступлением Трампа на Генеральной ассамблее ООН во вторник.

Однако Дейви считает, что этот план «далеко не соответствует масштабу угрозы» и «лишь увеличивает риск нашей зависимости от администрации Трампа, которая находится под влиянием техно-предпринимателей».

Ранее, в понедельник, представитель либерал-демократов по внутренним делам Макс Уилкинсон анонсировал предложения партии по введению налога на крупные технологические компании и созданию нового агентства по борьбе с киберпреступностью. Агентство будет заниматься такими преступлениями, как распространение детской порнографии, наркоторговля, торговля оружием и создание дипфейков.

Уилкинсон также заявил, что либерал-демократы будут регулировать использование умных очков Meta, назвав их «очками для извращенцев». Он подчеркнул, что эти устройства «больше, чем просто безобидное устройство, доставляющее удовольствие». По его словам, людей, особенно женщин, записывают без их согласия или предупреждения. «Это становится новой нормой, потому что это правительство не может противостоять крупным технологическим компаниям, чтобы защитить наши гражданские свободы», — добавил он.

В воскресенье Дейви представил предложение о снижении акциза на топливо на 10 пенсов за литр на три месяца, а также о снижении максимального тарифа на проезд в автобусе с 3 до 1 фунта и других мер, связанных с сокращением расходов на транспорт.

В серии интервью в понедельник Дейви защищал свою позицию от критики о недостатке видения у партии. Он заявил, что нет смысла конкурировать с популистскими лозунгами таких партий, как Reform UK и «Зеленые».

«Сейчас очень много шума, — сказал он BBC. — Но позвольте мне сказать, что часть этого шума, генерируемого популистами, сеет раздор в нашем обществе, является зловещей или просто совершенно безумной. Я не хочу так поступать. Я хочу сказать людям, что у нас есть продуманные решения, которые позволят снизить их налоги».

На вопрос о возможности дальнейшего снижения налогов после обещания сократить акциз на топливо на 10 пенсов в течение трех месяцев, Дейви ответил: «Абсолютно». Он добавил, что эти меры будут финансироваться за счет роста экономики, который, по мнению либерал-демократов, произойдет благодаря их предложению о вступлении в единый рынок ЕС.

Лидер либерал-демократов положительно отозвался о стремлении Энди Бёрнэма реформировать систему социального ухода за взрослыми, но в интервью Sky News отметил, что «пока рано судить», сможет ли Бёрнэм реализовать свои планы в качестве премьер-министра. Тем не менее, Дейви позитивно оценил некоторые действия Бёрнэма.

«Я считаю, что это хорошо, когда другие партии начинают говорить о приоритетах либерал-демократов, — сказал он. — Мы возглавили дебаты по вопросам социального ухода и поддержки опекунов, потому что это крайне важно для нашей системы здравоохранения. Мы также стали инициаторами обсуждения политических реформ, поскольку нам необходимо изменить нашу политическую систему, и мистер Бёрнэм, похоже, готов к этому».