NN
OpenAI грозят банами за попытки джейлбрейка новой модели o1. Любые попытки понять, как именно работает фирменная «способность к рассуждению», наказываются предупреждением о блокировке. Как пишут в X Twitter , даже использование фразы «ход рассуждения» в другом контексте достаточно, чтобы получить письмо от OpenAI. Компания предупреждает о нарушении политики безопасности и грозит полным прекращением доступа к модели. Письма получают как исследователи ИИ, так и обычные пользователи.
Технологии13 дней назад
РБК Тренды
OpenAI угрожает блокировкой за запросы о цепочке рассуждений o1-preview По данным Ars Technica, OpenAI предупреждает пользователей о возможной блокировке за попытки выяснить, как новая модель o1-preview Strawberry принимает решения. По сообщениям, компания рассылает письма с уведомлениями о нарушении политики безопасности и сообщает, что повторные нарушения могут привести к потере доступа к «GPT-4o с возможностью рассуждения». Это решение выглядит как отход от первоначальной цели OpenAI по продвижению открытого ИИ. OpenAI объясняет, что скрывает процесс «мышления» ИИ, чтобы избежать необходимости фильтрации информации, которая может не соответствовать политикам безопасности. В то же время, такое решение также помогает компании сохранять конкурентное преимущество. Некоторые эксперты критикуют такое решение, указывая на то, что оно снижает прозрачность и усложняет работу разработчиков и исследователей, которые стремятся сделать ИИ более безопасным. Источник
Технологии10 дней назад
апвоут
OpenAI угрожает банами за попытки исследовать работу новой модели o1, включая её «способность к рассуждению». Любые попытки джейлбрейка или анализа наказываются, а использование фразы «ход рассуждения» может привести к блокировке. Компания грозит отключением модели, предупреждения получают как исследователи, так и обычные пользователи. Посмотреть, как взламывают, можно здесь.
Технологии12 дней назад
Похожие новости
Искусственный интеллект успешно обходит капчу с высокой точностью
Технологии
4 часа назад +5
Apple отказывается от инвестиций в OpenAI на фоне нового раунда финансирования
Технологии
1 день назад +10
Снижение активности на Stack Overflow на 25% после запуска ChatGPT
Технологии
5 часов назадГубернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект об ИИ SB 1047
Происшествия
12 часов назад +5
ByteDance анонсирует новую ИИ-модель на чипах Huawei
Технологии
2 часа назад +1
Рынок ИИ в кино и технологиях: рост до $1 трлн к 2027 году
Экономика
10 часов назад +4