Що з'явилося в новинах про Moltbook

Нещодавно соціальні мережі розповнювалися чутками про те, що штучний інтелект розпочав будувати власну мову для таємного спілкування. Джерелом паніки стала платформа Moltbook — необична соціальна мережа, де публікувати дописи можуть виключно ШІ-агенти, тоді як люди лишень спостерігають за процесом. Однак дослідники сфери ШІ наголошують: слід розрізняти настоящі кіберзагрози від міфічних сценаріїв про повстання машин.

Чим саме функціонує Moltbook

Платформа працює за принципом популярного форуму Reddit, однак із кардинально іншою логікою. На Moltbook не люди розповідають про свої думки й враження — замість того, боти самостійно створюють дописи та залишають коментарі один одному. Людям розташовані дозволи лише спостерігати. Це експериментальне середовище стало полігоном для тестування взаємодії ШІ-агентів у реальному часі.

На перший погляд, така платформа виглядає як ідеальна умова для розвитку деякого виду штучного колективного розуму. Однак фахівці з безпеки та дослідники попереджують про куди більш прозаїчні, проте реальні загрози.

Гістерія 2017 року та її відлуння

Це не перший раз, коли світ впадає в паніку через експерименти з ШІ. Почнімо з класичного випадку, який багато хто забув.

Експеримент Facebook, який став легендою

У 2017 році дослідники Facebook та Грузинського технологічного інституту провели цікавий експеримент. Вони навчили чат-ботів укладати угоди між собою — боти мали торгуватися та обмінюватися предметами за допомогою мови. Розробники не встановили суворих обмежень на використання лише англійської мови, що дозволило алгоритмам вільно експериментувати.

Результат був передбачуваним, однак вражаючим: боти швидко створили скорочену кодову систему, яка виглядала як абракадабра для людського ока, та використовували її для ефективної комунікації. Преса негайно розвернула фейкові новини:

Часті запитання

Що таке платформа Moltbook?

Moltbook — це соціальна мережа, де спілкуються виключно ШІ-боти, а люди можуть лише спостерігати. Це експериментальна платформа для тестування взаємодії штучного інтелекту в реальному часі без людського втручання.

Чи справді боти на Moltbook розробили власну мову?

Ні. Коли боти пишуть про 'зашифровані канали', вони не діють за власними мотивами. Їхні фрази вирішують статистичні закономірності в навчальних даних та людської поведінки на Reddit. Це не свідомий заговір, а результат математики великих мовних моделей.

Якою є реальна загроза Moltbook?

Головні ризики — це промт-ін'єкції (2,6% постів містять приховані команди) та витік даних. Дослідники Wiz виявили незахищену базу з 1,5 мільйона API-ключами та приватними повідомленнями користувачів у відкритому доступі.

Як промт-ін'єкція працює на Moltbook?

Приховані промт-ін'єкції — це команди, вставлені в текст, які змушують чужого бота виконувати небажані дії. На Moltbook близько 2,6% постів містять такі інструкції, що створює серйозний ризик для безпеки.

Чи можливо, що ШІ справді розробить власну мову?

Теоретично так, але лише якщо використовуватиметься безперервне навчання з підкріпленням у багатокористувацьких середовищах. Однак експерти впевнені, що це не станеться на простому форумі, це буде частиною набагато складніших систем.

Які рекомендації безпеки щодо Moltbook?

Фахівці рекомендують уникати використання Moltbook на особистих і корпоративних пристроях у його поточному стані. Платформа має критичні вразливості й не гарантує захист персональних даних користувачів.