Дослідники з Токійського університету виявили цікаві схожості між поведінкою сучасних чат-ботів, що ґрунтуються на великих мовних моделях, та симптомами афазії Верніке – розладу мови, який дозволяє людям говорити вільно, але часто безглуздо.
Сучасні мовні моделі демонструють вражаючу плавність. Вони формують граматично правильні відповіді на запити користувачів. Проте їхня інформація часто виявляється неточною або вигаданою.
Ця особливість привернула увагу нейронауковців із Токіо. Вони помітили подібність із певними мовними розладами у людей. Така паралель може відкрити нові шляхи як для вдосконалення ШІ, так і для діагностики афазії.
Професор Такаміцу Ватанабе з Міжнародного дослідницького центру нейроінтелекту очолив це дослідження. Його команда застосувала нестандартний підхід до аналізу обох явищ.
Метод енергетичного ландшафту
Дослідники використали аналіз енергетичного ландшафту для порівняння. Цей метод спочатку розроблявся фізиками для вивчення магнітних матеріалів. Згодом його адаптували для нейронаук.
Команда вивчала патерни активності мозку пацієнтів з афазією. Вони перебували у стані спокою під час досліджень. Науковці порівняли ці дані з внутрішніми процесами у відкритих мовних моделях.
«Неможливо не помітити, як деякі системи штучного інтелекту можуть здаватися зрозумілими, але при цьому допускати значні помилки», – зазначає професор Ватанабе. Він вказує на схожість із поведінкою людей з афазією Верніке.
Результати виявилися вражаючими. Цифрова інформація у мовних моделях рухається подібно до мозкових сигналів при афазії. Ця схожість спостерігається на глибинному структурному рівні.
Візуалізація процесів мислення
Професор Ватанабе пропонує наочну метафору для пояснення виявлених закономірностей. Він порівнює енергетичний ландшафт із поверхнею, на якій рухається м’яч.
«Коли є вигин, м’яч може скотитися вниз і зупинитися, але коли вигини неглибокі, м’яч може хаотично котитися», – пояснює науковець. У випадку афазії м’яч представляє стан мозку.
У моделях штучного інтелекту цей м’яч відображає сигнал. Він формується на основі інструкцій користувача та внутрішнього набору даних. Рух сигналу визначає точність відповіді.
Коли вигини енергетичного ландшафту стають занадто пологими, система втрачає стабільність. Це призводить до хаотичних відповідей як у пацієнтів з афазією, так і в мовних моделях.
Практичні наслідки відкриття
Дослідження має важливе значення для двох галузей одночасно. Для неврології воно пропонує інноваційний підхід до класифікації мовних розладів. Діагностика може базуватися на внутрішній активності мозку.
Для розробників штучного інтелекту ці знахідки відкривають перспективи вдосконалення систем. Розуміння недоліків архітектури ШІ допоможе створити надійніші мовні моделі.
«Ми не стверджуємо, що у чат-ботів пошкоджений мозок», – підкреслює професор Ватанабе. Він вважає, що мовні моделі обмежені певним внутрішнім шаблоном, подібно до рецептивної афазії.
Ця обмеженість зменшує гнучкість їхніх знань. Вона не дозволяє системам відрізняти достовірну інформацію від вигаданої. Майбутні дослідження можуть допомогти подолати це обмеження.
Команда з Токійського університету продовжує вивчати ці паралелі. Вони прагнуть створити кращі діагностичні інструменти для обох напрямків. Перше зіставлення відкриває шлях до нових методів аналізу.
Дослідження демонструє, як міждисциплінарний підхід збагачує науку. Розуміння людського мозку допомагає вдосконалювати штучний інтелект. А вивчення ШІ дає новий погляд на роботу нашого мозку.
#Надмірна #самовпевненість #ШІ #відображає #стан #людського #мозку
Source link
