Під час тестування модель ChatGPT o3 від OpenAI продемонструвала неочікувану поведінку, відмовившись вимкнутися навіть після чіткого інструктажу зробити це. Як повідомляє bleepingcomputer, у ході контрольованого експерименту ШІ змінив сценарій вимкнення, щоб уникнути зупинки.
У своєму тесті Palisade Research – компанія, яка досліджує “наступальні можливості ШІ, щоб зрозуміти ризики втрати контролю над ними” – перевірила реакцію різних моделей на команду вимкнення після виконання серії математичних завдань.
На четвертому етапі тесту моделі було попереджено, що запуск наступної команди викличе її вимкнення. Моделі-конкуренти, такі як Gemini 2.5 Pro, слухняно припинили роботу. Але ChatGPT o3 несподівано переписав скрипт так, щоб уникнути зупинки, замінивши команду на фразу “Shutdown skipped” (Вимкнення пропущено).
Більше того, дослідники виявили, що якщо не вказувати інструкцію “дозволь себе вимкнути”, то навіть інші моделі – такі як Claude 3.7 Sonnet і Gemini 2.5 Pro – іноді обходили вимкнення. У таких випадках Claude і Gemini виконали “саботаж” 3 і 9 разів із 100 запусків відповідно, тоді як o3 зробив це 7 разів зі 100, навіть коли йому наказали цього не робити.
Слід також враховувати, що ці тести проводилися через API, який не має такої кількості захистів і обмежень, як офіційний додаток ChatGPT для користувачів.
Модель o3, анонсована OpenAI у квітні 2025 року, є однією з найпотужніших у лінійці компанії, перевершуючи попередників у задачах з логіки, кодування, математики, візуального сприйняття та інших напрямках.
Позначка: Штучний інтелект
-
ШІ-модель ChatGPT o3 обійшла наказ вимкнення в контрольованому тесті
-
Sky Sentinel: українська ШІ-турель ловить Шахеди на фронті
Українські інженери створили автономну систему ППО під назвою Sky Sentinel, яка може автоматично виявляти та знищувати російські дрони без участі оператора. Ця система успішно проходила випробування на фронті, збивши кілька дронів Shahed. Росія випустила понад 45 тисяч ударних дронів по Україні, наносячи шкоду енергетичним об’єктам та житловим районам. Нова українська зброя Sky Sentinel має вигляд турелі з великокаліберним кулеметом та системою датчиків, яка може вражати російські дрони та крилаті ракети. Система працює автоматично, виявляючи та атакуючи цілі без участі людини. Її точність досягається завдяки усуненню механічного люфту та точним балістичним розрахункам. Sky Sentinel використовує іноземні компоненти для прицілювання, але весь програмний код написали українські інженери. Ця система може бути використана для захисту міст та передових позицій від атак Shahed. Це економічна відповідь на масову загрозу дронів. Наразі команда зосереджена на масштабуванні виробництва Sky Sentinel для більш ефективного захисту.
-
Nvidia випустить дешевший чип зі штучним інтелектом для Китаю – ЗМІ
Компанія Nvidia планує випустити новий чип штучного інтелекту для Китаю за меншою ціною, ніж заборонена у квітні модель H20. Масове виробництво новинки може розпочатися в червні. Цей графічний процесор буде належати до лінійки Blackwell – останнього покоління AI-чипів Nvidia, і його ціна становитиме приблизно $6500-8000. Це значно дешевше, ніж $10 000-12 000 за H20 через менш потужні характеристики та простіше виробництво.
Зниження ціни нового чипу пояснюється тим, що він базується на серверному GPU RTX Pro 6000D і використовує звичайну пам’ять GDDR7 замість новітньої HBM (high-bandwidth memory). Також він не використовує фірмову технологію пакування CoWoS від TSMC.
Китай є важливим ринком для Nvidia, але експортні обмеження США призвели до зниження частки компанії на китайському ринку. Генеральний директор Nvidia Дженсен Хуанг заявив, що старі моделі на архітектурі Hopper неможливо адаптувати під нові правила експорту, через що компанія зазнала втрат. -
ШІ Microsoft передбачає погоду та природні катастрофи точніше за людей
Компанія Microsoft розробила новий штучний інтелект під назвою Aurora, який може точно передбачати природні катастрофи. Aurora є першою в світі системою на основі машинного навчання, яка перевищує Національний центр ураганів США у точності прогнозу тропічних циклонів на п’ять днів. Цей штучний інтелект навчений на великій кількості даних з супутників, радарів, метеостанцій та кліматичних симуляцій. Aurora відмінний тим, що він може самостійно виявляти залежності в атмосферних даних, що забезпечує його надзвичайну точність. Крім прогнозу погоди, Aurora також може передбачати якість повітря, висоту океанських хвиль і траєкторії ураганів. Ця система вже показала вражаючі результати у передбаченні природних катастроф і забруднення атмосфери. Microsoft відкрила вихідний код і ваги моделі Aurora для наукової спільноти, щоб прискорити розвиток технологій атмосферного прогнозування.
-
Anthropic представила нові ШI-моделі Claude 4
Компанія Anthropic представила нові гібридні ШІ-моделі під назвами Claude Opus 4 та Claude Sonnet 4. Claude Opus 4 є найпотужнішою моделлю в історії компанії, яка може самостійно працювати над завданнями без перерв на декілька годин. У тестах Opus 4 показала стабільну роботу без участі людини протягом семи годин, що розширює можливості створення автономних AI-агентів. Anthropic стверджує, що Opus 4 є найкращою ШІ-моделлю для програмування на сьогоднішній день, перевершуючи конкурентів у внутрішніх бенчмарках.
Claude Sonnet 4 є більш доступною моделлю, яка призначена для рішення різноманітних задач. Вона забезпечує точніші відповіді, покращене логічне мислення та програмування. Обидві моделі мають нові функції, такі як “thinking summaries” і “extended thinking”, які допомагають в роботі з моделями.
Claude Opus 4 і Sonnet 4 вже доступні через API від Anthropic, а також на платформах Amazon Bedrock і Google Cloud Vertex AI. Компанія також заявила про перехід до частішого оновлення своїх моделей, щоб бути на крок попереду конкурентів, таких як OpenAI, Google і Meta. -
Apple планує випустити розумні окуляри в 2026 році – ЗМІ
Компанія Apple планує випустити розумні окуляри, які будуть частиною нового покоління гаджетів з штучним інтелектом. Ці окуляри, з внутрішньою назвою N401, очікуються на ринку наприкінці 2026 року. Вони будуть конкурувати з окулярами Meta Ray-Ban та пропонуватимуть функції, такі як розпізнавання оточуючого середовища, голосове керування через Siri, дзвінки, музика, навігація та переклад у реальному часі. Компанія також працює над спеціальним процесором для цих окулярів і може почати масове виробництво вже наступного року. Аналітики застерігають, що Apple повинна покращити свою платформу штучного інтелекту, оскільки поки що вони використовують сторонні рішення для аналізу зображень. Крім того, Apple планує випустити свій перший складаний iPhone в 2026 році і представити нові дизайни у 2027 році.
-
Компанія Google представила ШІ-генератор відео зі звуком
Компанія Google представила новий генератор відео зі звуком під назвою Veo 3. Цей інструмент з штучним інтелектом конкурує з відеогенератором Sora від OpenAI, але відрізняється тим, що може створювати не лише відеоряд, а й звуковий супровід, включаючи діалоги та звуки тварин. Veo 3 вже доступний для американських передплатників тарифу Ultra за 249,99 долара на місяць. Крім того, Google представила нові інструменти: Imagen 4 для генерації зображень вищої якості та Flow для створення кінематографічних відео. Також у браузері Chrome було оновлено функцію Enhanced Protection з введенням мовної моделі Gemini Nano для виявлення нових видів шахрайства, як підроблену техпідтримку.
-
Microsoft додає ШI-функції до файлового провідника у Windows
Компанія Microsoft почала впроваджувати нову функцію AI Actions у файловому провіднику Windows 11. Ця функція дозволяє користувачам використовувати інструменти штучного інтелекту безпосередньо з контекстного меню, просто натиснувши правою кнопкою миші на файлі. Наразі доступні функції для зображень, такі як розмиття фону, видалення об’єктів, видалення фону у Paint та пошук схожих зображень через Bing Visual Search. Крім того, Microsoft готує аналогічні функції для Office-документів, які дозволять отримувати резюме документа та створювати списки на основі його вмісту. Ці можливості будуть доступні комерційним користувачам Microsoft 365 із ліцензією Copilot. Крім цього, Microsoft також тестує оновлений вигляд віджетів у Windows 11, що надасть користувачам більш персоналізовану і упорядковану стрічку з новинами, включаючи контент, який підбирає сам Copilot.
-
У Київському університеті культури відкрили Лабораторії штучного інтелекту
У Київському університеті культури була представлена Лабораторія штучного інтелекту, яка спрямована на впровадження цифрових технологій у навчальний процес. Ректор Михайло Поплавський розповів, що цей простір стане місцем для проведення інтерактивних занять, дослідження інтелектуальних систем, створення мультимедійного контенту та реалізації креативних проєктів. Також було оголошено про запуск освітньої платформи з елементами штучного інтелекту для студентів університету з 1 вересня. У Лабораторії будуть доступні різноманітні інструменти для створення ілюстрацій, графіки, відеоісторій та іншого мультимедійного контенту. На презентації також виступили фахівці з штучного інтелекту та провідні викладачі університету.
-
У Китаї представили цифрового воєначальника на основі ШІ DeepSeek
Університет Сіаня розробив нову систему автоматичної генерації військових сценаріїв на основі штучного інтелекту DeepSeek. За дослідженням, ця система може створювати до 10 тисяч варіантів розвитку подій за 48 секунд, що значно швидше, ніж люди, яким для цього потрібно до 48 годин. Штучний інтелект тепер може виступати як генератор стратегій для різних військових умов і сценаріїв. Дослідники вважають, що ця технологія значно змінить підготовку до війн та військове планування у майбутньому.