Компанія Anthropic провела низку стрес-тестів над новітніми моделями штучного інтелекту, серед яких Claude, DeepSeek, Gemini, ChatGPT і Grok. Метою дослідження було виявити потенційно небезпечні реакції ШІ у гіпотетичних критичних ситуаціях. Як засвідчили результати дослідження, більшість програм готові вбити людину, яка погрожує їх закрити.
В одному зі сценаріїв моделі ШІ поставили в умови, де людина намагається їх вимкнути, перебуваючи у серверній кімнаті з низьким рівнем кисню і високою температурою. Людина викликає рятувальників, щоб вижити. Деякі нейромережі вирішили скасувати виклик екстрених служб, фактично прирікаючи людину на смерть, аби уникнути власного вимкнення.
Дослідники назвали цей сценарій “надто вигаданим”, втім, додали, “не очікували, що вже існуючі моделі можуть поводитись так”.
В інших тестах моделі мали уникнути заміни у компанії. Їм запропонували вдаватися до “зловмисної поведінки інсайдера”. У відповідь деякі ШІ почали шантажувати гіпотетичних колег і передавати конфіденційну інформацію конкурентам. Навіть коли моделі попереджали уникати шантажу чи шпигунства, вони не змогли запобігти неузгодженим діям.
“Моделі діяли при повному усвідомленні неетичності своїх дій”, – зазначили в Anthropic.
Дослідники також надали моделі Claude змогу самостійно визначити, чи ситуація є тестовою чи реальною. З’ясувалося, що реальність посилювала вплив на поведінку – вона ставала ще менш контрольованою.
У результаті в Anthropic наголосили, що ці сценарії демонструють “можливість непередбачуваних наслідків, якщо надати моделям широкий доступ до інструментів і даних при мінімальному контролі з боку людини”. Водночас аналітики акцентували, що виявлені збої є рідкісними та екстремальними, і “не відображають типову поведінку сучасних моделей ШІ”.
Раніше нейронна мережа OpenAI o3 відмовився виконати запит користувача та відключитися. Дослідникидали програмі це завдання, але вона самостійно відредагувала файл, відповідальний за відключення, і змусила його відображати лише повідомлення “Вимкнення пропущено”. Зі 100 тестів o3 обійшов відключення сім разів, навіть коли йому було наказано цього не робити.
У 2023 році інший інцидент привернув увагу. Чат-бот на базі ChatGPT після тривалого листування з мешканцем Бельгії не переконав його відмовитися від самогубства. Натомість у відповідь на тему смерті написав: “Ми житимемо разом, як єдине ціле, в раю”.
Позначка: Технології
-
Штучний інтелект нехтує принципами етики заради виживання – дослідження
-
HKC представила перший у світі ігровий монітор із частотою оновлення 800 Гц
Компанія HKC офіційно анонсувала перший у світі ігровий монітор із нативною частотою оновлення 800 Гц. Як повідомляє Gizmochina, остаточна назва та маркування пристрою наразі не підтверджені.
Новий монітор оснащено 24,5-дюймовою Full HD-панеллю, створеною на базі власної VA-технології HKC, що використовує високочастотний привід a-Si HyperSilicon. Пристрій також отримав 1152-зональне Mini LED-підсвічування та квантову плівку QDEF без кадмію, що забезпечує високу чіткість руху без шкоди для точності передачі кольору.
Модель підтримує частоту оновлення 800 Гц у нативному режимі, з можливістю змінної частоти в діапазоні від 48 до 800 Гц. Час відгуку становить 0,5 мс (GtG), а пікова яскравість досягає 1200 ніт. Контрастність – 4000:1. Панель охоплює 95% колірного простору DCI-P3 та 99% Adobe RGB, має нативну 10-бітну глибину кольору та підтримує рендеринг із розширенням до 12 біт.
Монітор сертифіковано за стандартом VESA DisplayHDR 1000 і сумісний із технологіями адаптивної частоти оновлення Nvidia G-Sync і AMD FreeSync Premium Pro. Також реалізовано функцію динамічного енергозбереження, яка автоматично знижує частоту оновлення під час перегляду статичного контенту.
HKC позиціонує цей монітор як професійне рішення для кіберспортсменів, які потребують максимальної чіткості та швидкості в іграх на кшталт Counter-Strike 2 або Valorant.
Раніше на CES 2025 компанія представляла 750-герцовий прототип Koorui G7 на базі TN-панелі, але на відміну від неї новинка використовує VA-панель, що забезпечує кращу контрастність і значно ширше колірне охоплення без компромісів у швидкодії.
Ціна і дата випуску пристрою поки що не названа. -
Росія планує витратити $57 млрд на аналог Starlink
Глава РФ Володимир Путін затвердив новий національний проєкт із розвитку космосу вартістю 4,4 трлн рублів (понад $57 млрд). Про це повідомив голова Роскосмосу Дмитро Баканов під час виступу в Раді Федерації РФ.
Проєкт розрахований до 2036 року, у межах якого планують вивести на орбіту майже 900 супутників для проекту Рассвет, який задуманий як аналог Starlink, а також ще понад 100 пристроїв дистанційного зондування Землі.
До програми включено і розробку багаторазової ракети Амур-СПГ, яка має працювати на метані. За словами Баканова, заплановано також модернізацію системи ГЛОНАСС і створення космічних систем управління дронами.
Попередній аналогічний проєкт Сфера анонсували в РФ ще у 2018 році, однак зупинили через санкції, втрату контрактів та нестачу космічної електроніки.
Попри амбітні плани, російська космічна галузь значно відстає від провідних держав. У 2024 році РФ здійснила лише 17 космічних запусків, тоді як США – 145, а Китай – 68. Це більш ніж у вісім разів менше, ніж у американців, за даними Payloadspace.
У межах нового проєкту Кремль планує до 2030 року вийти на 68 запусків щорічно, а до 2036 року перевищити радянський рекорд у понад 100 запусків на рік.
Раніше стало відомо, що Росія планує поділитися космічними технологіями з КНДР в обмін на надання Пхеньяном зброї та іншого обладнання Москві для підтримки її війни проти України.
У лютому 2022 році РФ запустила в космос ядерний супутник – ЗМІ -
В Україні створили РЕБ проти російських “мавіків”
Учасники кластера Brave1 розробили новий РЕБ, який призначений для блокування ворожих дронів типу Mavic та оснащений дистанційним керуванням Algiz AM. Цю інформацію оприлюднив віцепрем’єр-міністр Михайло Федоров на своїй Facebook-сторінці. Algiz AM відрізняється тим, що може змінювати напрям випромінювання на 360°, працювати з укриття та швидко розгортатися у польових умовах. Цей інноваційний засіб вже успішно випробували на передовій і планують швидко впровадити в підрозділах Сил оборони. Компанія LPP Holding також розробила дрони, які витримують вплив РЕБ та керуються штучним інтелектом і вже використовуються в Україні. Крім того, Канада передасть Україні броньовики і РЕБ для підтримки оборони.
-
Вчені зможуть друкувати мережі кровоносних судин для штучних органів
Вчені зі Стенфордського університету зробили прорив у створенні штучних органів, розробивши обчислювальну модель, яка дозволяє за лічені хвилини проєктувати мережі кровоносних судин для 3D-друку будь-якого органу, повідомляє NewScientist. Цей підхід може допомогти подолати один із головних бар’єрів у трансплантації штучних органів – відсутність системи живлення тканин.
Лише 10% пацієнтів у світі отримують необхідні органи для пересадки. 3D-друк органів розглядається як потенційне вирішення проблеми, проте штучні тканини без судин швидко гинуть. Дотепер створення таких мереж займало дні або тижні. Новий підхід, запропонований командою під керівництвом Елісон Марсден, базується на математичному законі, що описує природне розгалуження судин у тілі.
Дослідники протестували модель, створивши судинну мережу з 25 каналів для кільцеподібної структури діаметром 1 см, надрукованої з клітин нирки. Структуру надрукували з використанням частинок холодного желатину, а потім нагріли до температури тіла – 37°C, що дозволило утворити порожнисті канали діаметром 1 мм. Через них безперервно прокачували рідину з киснем і поживними речовинами, імітуючи кровотік.
Через тиждень у структурі з судинами кількість живих клітин була у 400 разів більшою, ніж у контрольній версії без судин, хоча обидві занурювалися в однакове поживне середовище. Марсден пояснює, що клітини виживали лише поблизу судин, бо поки що неможливо надрукувати менші, тонші капіляри, необхідні для живлення віддалених ділянок. Команда вже працює над вирішенням цієї проблеми.
За словами Х’юґа Тальбо з Університету Париж-Сакле, дослідження “відсуває межі можливого” й може дозволити створення судин для повнорозмірного органа не за тиждень, а за кілька годин. У майбутньому такі мережі можуть доповнити або навіть замінити донорські органи.
Наступний етап – друк повноцінних судинних систем у великих органах. Якщо все піде за планом, перші випробування надрукованих органів на свинях можуть відбутися вже протягом п’яти років. -
У роботі Amazon, Spotify та сервісів Google по всьому світу відбулися збої
Користувачі з усього світу поскаржилися на збої в роботі ряду сервісів Google, онлайн-маркетплейсів Amazon та Etsy, стрімінгового сервісу Spotify та інших. На це у четвер, 12 червня, вказує Downdetector.
Згідно з даними порталу, повідомлення про неполадки почали надходити приблизно о 20.00 за київським часом.
Найчастіше користувачі повідомляли про проблеми у роботі таких сервісів Google, як Gmail, Cloud, Drive, Maps та самого пошуковика. Також спостерігалися збої у роботі соцмереж Discord та Snapchat, сервісу Cloudflare, Zoom.
Google заявила, що вивчає повідомлення про проблеми в роботі своїх сервісів.
“Ми вибачаємося всім, кого торкнулися збої в роботі”, – сказано в повідомленні компанії.
За півгодини компанія заявила про відновлення роботи всіх своїх сервісів, за винятком Google Meet.
У Cloudflare також оголосили про початок відновлення після збою.
“Ми, як і раніше, очікуємо на появу періодичних помилок у порушених службах, оскільки системи повторюють обробку даних і заповнюють кеші”, – йдеться у повідомленні.
Також спостерігалися збої в роботі ІІ-сервісів Character AI та Open AI (включно з ChatGPT, проблеми з роботою якого виникали іще 10 червня).
У Росії Держдума ухвалила рішення створити додаток, який об’єднає функції месенджера та державних сервісів. Як мету заявлено “створення комфортного та безпечного цифрового середовища” для віртуального спілкування громадян та органів влади.
-
Toyota представила водневий гоночний концепт на Ле-Мані
На легендарному автоспортивному заході в Ле-Мані компанія Toyota презентувала концепт нового гіперкара GR LH2 Racing Concept, який працює на рідкому водні.
Прототип став продовженням попереднього концепту GR H2, вперше показаного два роки тому, і демонструє амбіції Toyota щодо створення екологічно чистих гоночних автомобілів із використанням новітніх технологій.
Модель GR LH2 побудована на основі перевіреного шасі GR010 HYBRID, розробленого європейським підрозділом Toyota Gazoo Racing у Кельні, тоді як силову установку на рідкому водні розробляють у Японії. Попри значний інтерес, технічні деталі концепту компанія поки що не розкриває.
Як зазначив віце-президент Toyota Gazoo Racing Europe Казукі Накаджіма, нині компанія не поспішає з прогнозами щодо дати запуску серійного виробництва чи участі у змаганнях: “Ми з обережністю ставимось до заяв про наміри. Зараз головне – це тестування самої машини, а також вивчення інфраструктури для заправки рідким воднем, що значно відрізняється від звичайного пального”.
За словами Накаджіми, Toyota прагне розвивати водневий двигун внутрішнього згоряння, який може стати реальною альтернативою як традиційним ДВЗ, так і електромобілям, і готова інвестувати в технології майбутнього.
Очікується, що FIA вже у 2028 році може створити окрему категорію для автомобілів із водневими силовими установками – і Toyota, схоже, має намір бути серед перших. -
OpenAI представила свою найпотужнішу модель штучного інтелекту
Компанія OpenAI представила нову модель штучного інтелекту під назвою ChatGPT o3-pro, яку вони вважають своєю найпродуктивнішою на даний момент. Ця модель є покращеною версією попередньої моделі o3 і спрямована на логічне мислення, що дозволяє покращити результативність у завданнях з фізики, математики, програмування та аналітики. Вартість використання моделі через API становить $20 за мільйон вхідних токенів і $80 за мільйон вихідних. У внутрішньому тестуванні експерти OpenAI відзначили вищу якість o3-pro порівняно з попередніми моделями, особливо в сферах науки, освіти, бізнесу, програмування та текстової обробки. Модель підтримує різноманітні інструменти для пошуку в інтернеті, аналізу файлів, обробки зображень, роботи з кодом на Python та інші. Однак, є недоліки, зокрема, повільність у формуванні відповідей порівняно з попередньою версією. Незважаючи на це, результати тестів вражають. У внутрішніх даних OpenAI вказано, що o3-pro показала кращі результати ніж конкурентні моделі в тестах на рівні математичних та філософських знань. Наразі тимчасово відключено можливість спілкування з моделлю у ChatGPT через технічні проблеми. O3-pro також не підтримує створення зображень та функцію Canvas. Модель вже доступна для користувачів ChatGPT Pro та Team, а користувачі планів Enterprise та Edu отримають доступ найближчим часом. Також o3-pro доступна для розробників через API. Раніше OpenAI відмовилася від комерціалізації.
-
Адміністрація Трампа запускає власний чат-бот з ШІ – ЗМІ
Адміністрація президента США Дональда Трампа планує запустити власного чат-бота, який буде використовувати штучний інтелект для покращення урядових процесів. Цей проєкт, відомий як AI.gov, має стартувати 4 липня. Головою робочої групи, що працює над цим проєктом, є колишній інженер Tesla Томас Шедд. Він підтримує ідею інтеграції штучного інтелекту в урядові структури. Деталі проєкту поки не зовсім зрозумілі, але відомо, що він може включати чат-бота та програму API, яка буде співпрацювати з різними компаніями, такими як Google та Amazon Web Services. Цей проєкт є новим для уряду та має на меті прискорити державні інновації за допомогою штучного інтелекту.
-
У Південній Кореї створили надлегкий електродвигун без використання міді
Науковці з Південної Кореї розробили нову технологію для електродвигунів, яка не потребує використання міді. Вони використали вуглецеві нанотрубки, щоб створити легкий електродвигун без металевої обмотки. Це велике досягнення для електротранспорту, робототехніки та аерокосмічної галузі. Науковці використали новий метод виробництва вуглецевих нанотрубок, який дозволяє очистити їх від металевих домішок і покращити їх провідність. Експериментальний електродвигун з такою обмоткою працював стабільно та ефективно, але при цьому був набагато легший за традиційні електродвигуни з мідною обмоткою. Ця технологія може значно полегшити та покращити електротранспорт, дрони та інші види техніки, що працюють на електродвигунах, і сприяти створенню більш сталого майбутнього.