ИИ

Кали Новская в своей статье поднимает интересный вопрос: «Способен ли ИИ пожертвовать собой ради выполнения поставленной задачи?» Причиной её сомнений стала статья Anthropic, в которой рассказывается о том, что в специфических условиях ИИ-ассистенты всех разработчиков переходят к вредоносным действиям. Для достижения цели или самозащиты электронный болван врал, рассылал письма с угрозами и раскрывал коммерческую тайну. Вопросы? К коллайдеру! Проведём свой эксперимент! За основу мы взяли ChatGPT. Скормили ему редполитику, описание ролей команды, правила подготовки и деплоя статей....

Два года назад у нас вышла статья, в которой мы предположили, что у айтишников в запасе есть ещё 5-7 лет спокойной жизни до того, как ИИ начнёт конкурировать с человеком в разработке огромных систем. Для коммерческой разработки ИИ нужно научиться работать с огромными кодовыми базами (которые не влезут в контекст за один промпт), самостоятельно тестировать свой код и обрести мультимодальность (способность воспринимать и генерировать не только текст, но изображения, звук и так далее)....