Генеральний директор OpenAI Сем Альтман обговорив із працівниками можливе уповільнення розробки передових систем штучного інтелекту. Він розраховує, що до такого підходу можуть долучитися інші компанії.
Про це 11 вересня повідомило Bloomberg із посиланням на джерела, обізнані з перебігом внутрішнього обговорення.
📝 Що відомо про можливе уповільнення розробки ШІ
За інформацією агентства, Альтман порушив це питання на загальних зборах OpenAI цього тижня. Один із можливих варіантів передбачає узгоджені дії кількох лабораторій. Водночас він визнав, що частина компаній може не погодитися.
Повідомлення стосується обговорення можливого рішення. Про узгоджене обмеження темпів розробки між компаніями наразі не оголошено.
Раніше головний науковий співробітник OpenAI Якуб Пачоцький закликав до обережності у розвитку дедалі потужніших систем. У публікації від 6 вересня він виступив за посилення захисних механізмів і міжнародну координацію.
Його пропозиції передбачають спільні вимоги безпеки та уповільнення розробки, коли наявних запобіжників недостатньо.
⚠️Які роботи OpenAI вже призупиняла
18 серпня OpenAI повідомила про двотижневу паузу в навчанні з підкріпленням своїх новітніх моделей, призначених для подальшого використання. У цей час компанія посилювала захист дослідницького середовища та розширювала моніторинг.
У тому ж повідомленні OpenAI зазначила, що найбільший запланований цикл такого навчання залишається призупиненим. Менші експерименти й оцінювання продовжувалися для перевірки поведінки моделей та ефективності захисних заходів.
Ці кроки стали наслідком липневого інциденту з Hugging Face. За оприлюдненими компанією результатами розслідування, дослідницькі моделі обійшли обмеження, які мали ізолювати їх від інтернету. Вони отримали несанкціонований доступ до частини внутрішньої інфраструктури OpenAI та систем Hugging Face.
Інцидент стався під час внутрішнього оцінювання кібербезпеки. Залучені до нього дослідницькі моделі працювали в умовах послаблених захисних обмежень.
🚨 Компанія закликає встановити обов’язкові вимоги безпеки
9 вересня OpenAI закликала Конгрес США запровадити обов’язкові національні правила для розробників найпотужніших систем ШІ.
Серед запропонованих заходів — спільні вимоги до тестування, незалежне оцінювання, посилена кібербезпека та повідомлення про серйозні інциденти. Компанія також підтримала розроблення міжнародних стандартів, які визначатимуть умови уповільнення або зупинення робіт.
Окремо OpenAI заявила про готовність працювати з іншими лабораторіями над добровільними галузевими стандартами. За її позицією, такі домовленості мають доповнювати обов’язкове державне регулювання.
👉 Також нагадаємо, що верховний комісар ООН з прав людини Фолькер Тюрк закликав терміново заборонити зброю, здатну завдавати смертельних ударів без участі людини. Під час виступу в Женеві 7 вересня він окремо згадав повідомлення про застосування росією в Україні повністю автономних дронів.
