В останні тижні OpenAI пройшли ряд скандалів та, я би сказав, проблемних звільнень. Володимир Бандура

В останні тижні OpenAI пройшли ряд скандалів та, я би сказав, проблемних звільнень.

Пішов Ilya Sutskever, головний науковець OpenAI. Поки не заявив публічно новий проєкт, але до речі, були повідомлення що Сбербанк намагається його затягнути назад в рашу.

Пішли декілька людей з команди безпеки.

Дехто пішов тихо. А дехто і ні. І прямим текстом заявили, що OpenAI приділяє зовсім недостатньо уваги безпеці та грається з вогнем. 

Один з цих бувших співробітників написав великий звіт про те що відбувається в ШІ. Зокрема, з точки зору захисту від шпіонажу Китаю. 

І та що очікувати до 2030, і звіт насправді цікавий. Додам переклад українською вступу:

### ОЗНАЙОМЛЕННЯ З СИТУАЦІЄЮ: Наступне Десятиріччя

Леопольд Ашенбреннер, червень 2024 року

Ви можете побачити майбутнє спочатку в Сан-Франциско.

Протягом минулого року темою міста стали не $10 мільярдні обчислювальні кластери, а $100 мільярдні кластери та трильйон-доларові кластери суперкомпʼютерів. Кожні шість місяців до планів у залі засідань додається ще один нуль. За лаштунками ведеться жорстка боротьба за укладення всіх можливих контрактів на електропостачання на решту десятиліття, за придбання кожного можливого трансформатора напруги. 

Американський великий бізнес готується влити трильйони доларів у давно не бачену мобілізацію американської промислової могутності. До кінця десятиліття виробництво електроенергії в Америці зросте на десятки відсотків; від сланцевих родовищ Пенсільванії до сонячних ферм Невади гудітимуть сотні мільйонів графічних процесорів.

Перегони за створенням штучного загального інтелекту (AGI) розпочалися. Ми створюємо машини, які можуть мислити та аналізувати (reason and think). 

До 2025/26 року ці машини перевершать багатьох випускників коледжів. 

До кінця десятиліття вони будуть розумніші за нас з вами; у нас буде суперінтелект у справжньому сенсі цього слова. 

Упродовж цього часу будуть розгортатися конкуренція національних сил безпеки, яких ми не бачили вже півстоліття, і незабаром Проект буде запущено. Якщо нам пощастить, ми будемо в повномасштабних перегонах з Комуністичною партією Китаю; якщо не пощастить, у повномасштабній війні.

Зараз всі говорять про штучний інтелект, але мало хто має навіть найменше уявлення про те, що їх чекає. Аналітики Nvidia все ще думають, що 2024 рік може бути близьким до піку. Основні аналітики застрягли в свідомій сліпоті що моделі штучного інтелекту "це просто передбачення наступного слова". Вони бачать лише ажіотаж і бізнес як завжди; в кращому випадку вони розглядають чергову технологічну зміну інтернету.

Незабаром світ прокинеться. Але зараз є, можливо, кілька сотень людей, більшість з них у Сан-Франциско та в лабораторіях штучного інтелекту, які мають уявлення про ситуацію. Через якісь дивні сили долі я опинився серед них. Кілька років тому цих людей висміювали як божевільних, але вони довіряли трендам, що дозволило їм правильно передбачити досягнення у сфері ШІ за останні кілька років. 

Чи будуть ці люди праві щодо наступних кількох років, ще належить побачити. 

Але це дуже розумні люди — найрозумніші люди, яких я коли-небудь зустрічав, — і вони ті, хто створює цю технологію. Можливо, вони будуть дивним епізодом в історії, або вони увійдуть в історію як Сцилард, Оппенгеймер і Теллер. Якщо вони бачать майбутнє хоча б близько правильно, нас чекає дика подорож.

Дозвольте мені розповісти, що ми бачимо.

Володимир Бандура