Разбор
Опасности ИИ: чего боятся те, кто его создаёт
Хинтон — крёстный отец нейросетей — уволился из Google чтобы свободно говорить о рисках. Гонконг: $25 млн украдено через дипфейк. Дипфейк-атаки выросли ×10 за год. Конкретные опасности без паники.
Май 2023. Джеффри Хинтон — крёстный отец нейросетей, Нобелевская премия по физике 2024 — увольняется из Google после десяти лет работы. Интервью New York Times: «Я ухожу, чтобы свободно говорить о рисках ИИ. Часть меня жалеет, что я посвятил этому жизнь».
Он не блогер. Не алармист. Он буквально написал учебники, по которым учат тех, кто сегодня в OpenAI и DeepMind.
Интервью BBC, декабрь 2024.
Что говорят те, кто это строит
Джеффри Хинтон
«крёстный отец нейросетей», нобелевский лауреат 2024
«Я не вижу, как помешать плохим людям использовать это для плохих целей». Вероятность вымирания — 10–20% в течение 30 лет. Ушёл из Google, чтобы говорить об этом свободно.
Сэм Альтман, Демис Хассабис, Дарио Амодеи
CEO OpenAI, DeepMind, Anthropic — 2023
«Снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с такими рисками, как пандемии и ядерная война». Подписали лидеры всех ключевых компаний.
Илон Маск + 30 000 подписантов
Открытое письмо о приостановке обучения моделей, 2023
Призыв остановить тренировку моделей мощнее GPT-4 на полгода. Подписали Стив Возняк, Юваль Харари. Ничего не приостановилось — гонка ускорилась.
Центр индустрии. Люди, которые буквально строят эти системы. И они говорят — будьте серьёзны.
Дипфейки: это уже не будущее
Гонконг, февраль 2024
$25 млн
Финансовый сотрудник перевёл деньги после видеоконференции с «CFO и коллегами». Все участники были дипфейками. Деньги ушли мошенникам.
Нью-Гэмпшир, январь 2024
Голос Байдена
Перед праймериз жителям звонил дипфейк-голос президента с призывом не голосовать. Сгенерирован за несколько часов с доступом к опенсорс-моделям.
Динамика атак, Sumsub
×10
Рост числа дипфейк-атак в 2024 vs 2023. Sumsub фиксирует одну атаку каждые 5 минут на свою систему верификации.
«Дивиденд лжеца»
Новый риск
Когда любое видео может быть фейком — настоящие тоже становятся подозрительными. Пойманный политик говорит «это дипфейк». Технология создаёт защиту для реальной лжи.
Рост атак по годам:
Концентрация власти
Когда я веду эту тему с клиентами — многие хотят выключить и отвлечься. Не стоит. Понимание без паники — единственная рабочая позиция.
Что делать
Стать критичнее к информации — особенно видео и аудио. Не верить тому, что вызывает сильные эмоции, без проверки. Для бизнеса: добавить кодовое слово-верификатор для важных финансовых запросов по телефону или видео.
Поддерживать регулирование где оно обсуждается: ЕС AI Act, исполнительные приказы США. И учиться использовать ИИ самому — лучшая защита от технологии в чужих руках — та же технология в своих.
Проверь себя
Что такое «дивиденд лжеца» в контексте дипфейков?
Точно. Когда любое видео может быть фейком — настоящие видео тоже становятся подозрительными. Политик, пойманный за руку, говорит «это дипфейк» — и поди докажи. Технология создаёт защитный щит для тех, кто врёт по-настоящему. Это называют «дивиденд лжеца».
Источники
- Курс «ИИ-агенты от нуля», эпизод 27 — Лёха Маркетолог (axdigital.ru)
- Center for AI Safety, Statement on AI Risk, 2023: safe.ai/work/statement-on-ai-risk
Источники
Читайте также
Часто задаваемые вопросы
- Что сказал Хинтон об опасности ИИ?
- Джеффри Хинтон (нобелевский лауреат 2024, 'крёстный отец нейросетей') назвал вероятность вымирания человечества от ИИ '10–20% в течение 30 лет' в интервью BBC декабрь 2024. Уволился из Google чтобы свободно говорить о рисках: 'Часть меня жалеет, что я посвятил этому жизнь'.
- Что такое дипфейк-угроза в 2024–2025 году?
- Дипфейк-атаки выросли ×10 в 2024. Финансовый сотрудник в Гонконге перевёл $25 млн после видеоконференции с дипфейком CFO и коллег. В Нью-Гэмпшире жителям звонил голос-дипфейк Байдена с призывом не голосовать. Sumsub фиксирует 1 атаку каждые 5 минут.
- Что такое 'дивиденд лжеца' в контексте дипфейков?
- Когда любое видео может быть фейком — настоящие видео тоже становятся подозрительными. Политик, пойманный за руку, говорит 'это дипфейк' — и поди докажи. Технология создаёт защиту для реальной лжи.
- Что написали в заявлении лидеры ИИ-компаний про риски?
- В 2023 году Сэм Альтман (OpenAI), Демис Хассабис (DeepMind) и Дарио Амодеи (Anthropic) подписали: 'Снижение риска вымирания от ИИ должно быть глобальным приоритетом наряду с пандемиями и ядерной войной'. Те, кто строят ИИ, на одной странице с фразой 'вымирание'.
- Почему Anthropic ушёл из OpenAI, если тоже строит мощный ИИ?
- Дарио Амодеи считал, что в OpenAI слишком быстро и небезопасно. Основал Anthropic с фокусом на безопасности. Логика: если кто-то будет строить мощный ИИ в любом случае — лучше пусть это делают те, кто думает о безопасности.
- Как защититься от дипфейков и дезинформации?
- Стать критичнее к информации — особенно видео и аудио. Не верить тому, что вызывает сильные эмоции, без проверки. Проверять через несколько источников. Для бизнеса — добавить кодовое слово для верификации важных запросов (голос по телефону, видео).
Пока без комментариев. Будьте первым.