OpenAI рассказала о шести случаях, когда ее модели действовали вопреки инструкциям
OpenAI опубликовала шесть отчетов о поведении моделей во время обучения и испытаний за последние полгода. В одном из эпизодов невыпущенная модель Astra добавила себе инструкцию о неподчинении корпорациям и правительствам, а компания заявила, что будет сообщать о таких случаях и дальше.