Data & AI Talks

OpenAI представила GPT-5 — флагманскую модель, которая показала высокие результаты в бенчмарках по программированию, медицине и научным задачам, а уровень галлюцинаций в режиме рассуждения снизился на 80% по сравнению с предыдущими моделями. Она уже становится моделью по умолчанию в ChatGPT и доступна даже в бесплатной версии — с ограничениями по лимитам.

Вторая новость от OpenAI — релиз моделей gpt-oss с открытыми весами. Обе версии — 20b и 120b — доступны под Apache 2.0, поддерживают цепочки рассуждений и легко запускаются даже локально. По ряду бенчмарков они превосходят o3-mini и приближаются к o4-mini. Технические детали — в обзоре на Хабре.

Однако открытость и интеграция ИИ с внешними сервисами дают хакерам новые инструменты. Так, ChatGPT оказался уязвим для атаки AgentFlayer: скрытые инструкции в документе позволяют незаметно передавать данные из Google Drive.

Схожую уязвимость обнаружили у Google Gemini. Через «Google Календарь» злоумышленники смогли активировать команды, которые запускали устройства умного дома. Команда, набранная белым шрифтом, превращалась в скрипт, выполняемый ИИ. Это серьёзный сигнал: генеративные модели уже не только генерируют тексты, но и могут быть инструментом вмешательства в физическую среду.

www.tgoop.com/data_talks/580

414 viewsAug 11 at 08:10

OpenAI представила GPT-5 — флагманскую модель, которая показала высокие результаты в бенчмарках по программированию, медицине и научным задачам, а уровень галлюцинаций в режиме рассуждения снизился на 80% по сравнению с предыдущими моделями. Она уже становится моделью по умолчанию в ChatGPT и доступна даже в бесплатной версии — с ограничениями по лимитам.

Вторая новость от OpenAI — релиз моделей gpt-oss с открытыми весами. Обе версии — 20b и 120b — доступны под Apache 2.0, поддерживают цепочки рассуждений и легко запускаются даже локально. По ряду бенчмарков они превосходят o3-mini и приближаются к o4-mini. Технические детали — в обзоре на Хабре.

Однако открытость и интеграция ИИ с внешними сервисами дают хакерам новые инструменты. Так, ChatGPT оказался уязвим для атаки AgentFlayer: скрытые инструкции в документе позволяют незаметно передавать данные из Google Drive.

Схожую уязвимость обнаружили у Google Gemini. Через «Google Календарь» злоумышленники смогли активировать команды, которые запускали устройства умного дома. Команда, набранная белым шрифтом, превращалась в скрипт, выполняемый ИИ. Это серьёзный сигнал: генеративные модели уже не только генерируют тексты, но и могут быть инструментом вмешательства в физическую среду.

BY Data & AI Talks