OpenAI оголосила про співпрацю з лабораторією-творцем ядерної бомби

OpenAI та Лос-Аламоська національна лабораторія (LANL), оголосили про співпрацю

OpenAI оголосила про співпрацю з лабораторією-творцем ядерної бомби Фото: freepik.com

Вони хочуть зрозуміти, як мультимодальні моделі штучного інтелекту (ШІ) можуть безпечно використовуватися вченими в лабораторних умовах.

LANL — одна з провідних національних лабораторій США, а також відповідальна за створення першої у світі ядерної зброї. Спільно з OpenAI вони працюють над вивченням того, як ШІ може безпечно використовуватися вченими в лабораторних умовах для просування біологічних досліджень.

«Як приватна компанія, що служить суспільним інтересам, ми раді оголосити про перше у своєму роді партнерство з Лос-Аламоською національною лабораторією для вивчення можливостей біологічних наук, — сказала Міра Мураті, директор з технологій OpenAI. — Це партнерство знаменує собою природний розвиток нашої місії — просування наукових досліджень, а також розуміння і зниження ризиків».

OpenAI і Відділ біологічних наук Лос-Аламоської національної лабораторії працюють над оціночним дослідженням, щоб визначити, як граничні моделі, такі як GPT-4o, можуть допомогти людям у виконанні завдань в умовах фізичної лабораторії завдяки мультимодальним можливостям, таким як зір і голос. Це включає оцінку біологічної безпеки GPT-4o і його голосових систем реального часу, які ще не випущені, щоб зрозуміти, як вони можуть бути використані для підтримки досліджень в галузі біологічних наук.

Цікаве по темі: OpenAI створить ШІ-тренера зі здоровʼя

«ШІ — це потужний інструмент, який може принести величезну користь у сфері науки, але, як і будь-яка нова технологія, він пов’язаний з ризиками, — сказав Нік Дженероус, заступник керівника групи з інформаційних систем і моделювання. — У Лос-Аламосі цю роботу очолить нова група з технічної оцінки ризиків ШІ, яка допоможе оцінити і краще зрозуміти ці ризики».

Майбутня оцінка в Лос-Аламосі стане першим експериментом з тестування мультимодальних моделей в лабораторних умовах шляхом оцінки здібностей як експертів, так і новачків виконувати і усувати несправності за безпечним протоколом, що складається зі стандартних лабораторних експериментальних завдань.

Ці завдання можуть включати трансформацію (наприклад, введення чужорідного генетичного матеріалу в організм хазяїна), культуру клітин (наприклад, підтримання і розмноження клітин in vitro) і поділ клітин (наприклад, за допомогою центрифугування). Вивчаючи підвищення ефективності та точності виконання завдань завдяки GPT-4o, компанії хочуть кількісно оцінити, як граничні моделі можуть підвищити кваліфікацію як існуючих професіоналів, так і початківців у вирішенні реальних біологічних завдань.

«Лос-Аламоська національна лабораторія була піонером у дослідженні безпеки, і ми з нетерпінням чекаємо спільної роботи над новими і надійними оцінками безпеки для передових моделей ШІ, оскільки можливості продовжують стрімко вдосконалюватися. Ця спільна робота не тільки підкреслює потенціал мультимодальних моделей ШІ, таких як GPT-4o, для підтримки наукових досліджень, але також підкреслює критичну важливість співпраці приватного і державного секторів як у використанні інновацій, так і в забезпеченні безпеки. З нетерпінням чекаючи на результати цих оцінок, ми сподіваємося, що це партнерство допоможе встановити нові стандарти безпеки та ефективності ШІ в науці, прокладаючи шлях для майбутніх інновацій, які принесуть користь людству», — заявили в OpenAI.

Нагадаємо, що співзасновник OpenAI створив новий ШІ-стартап. Ілля Суцкевер, один із співзасновників OpenAI, заснував нову компанію Safe Superintelligence Inc. (SSI) всього через місяць після того, як офіційно покинув OpenAI.

Ознайомтеся з іншими популярними матеріалами:

Apple та Microsoft відмовилися від місць в правлінні OpenAI: причина

OpenAI випустила нову версію ChatGPT: що вміє

Сем Альтман розповів, яким буде майбутнє штучного інтелекту

За матеріалами: OpenAI.