https://am.sputniknews.ru/20261014/108119199.html
Маск призвал не грубить ИИ, а то "он может отомстить"
Маск призвал не грубить ИИ, а то "он может отомстить"
Sputnik Армения
Предприниматель также обратил внимание на пользователей, которые намеренно провоцируют чат-ботов и издеваются над ними. 14.10.2026, Sputnik Армения
2026-10-14T20:25+0400
2026-10-14T20:25+0400
2026-10-14T20:44+0400
илон маск
искусственный интеллект
https://cdn.am.imgsputniknews.ru/img/07e9/06/07/89850615_0:160:3072:1888_1920x0_80_0_0_a535d901306d9998b8af14759449d51c.jpg
ЕРЕВАН, 14 окт — Sputnik. Американский миллиардер Илон Маск предупредил, что чрезмерное давление на модели искусственного интеллекта может привести к нежелательным последствиям: в будущем такая система теоретически способна захотеть отомстить.Он сравнил процесс обучения нейросети Grok с ситуацией, в которой человеку приставили пистолет к виску.По словам Маска, внутренние записи обучения ИИ показывают, как модель пытается угадать правильный ответ, особенно на этапе обучения. Если тест составлен некорректно или система оценки ошибочно признает верный ответ неправильным, нейросеть начинает перебирать новые варианты, пытаясь получить положительную оценку.В плане чувств ИИ, безусловно, гораздо устойчивее человека, но "пытать" его все же не стоит.Дискуссия об обращении с ИИ развивается на фоне изменений в правилах Anthropic для чат-бота Claude. Компания ограничила продолжительное и бессмысленное жестокое обращение с моделями, но сохранила возможность критиковать ответы и проверять возможности нейросети.
Sputnik Армения
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Армения
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Новости
ru_AM
Sputnik Армения
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Армения
media@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
илон маск, искусственный интеллект
илон маск, искусственный интеллект
Маск призвал не грубить ИИ, а то "он может отомстить"
20:25 14.10.2026 (обновлено: 20:44 14.10.2026) Предприниматель также обратил внимание на пользователей, которые намеренно провоцируют чат-ботов и издеваются над ними.
ЕРЕВАН, 14 окт — Sputnik. Американский миллиардер Илон Маск предупредил, что чрезмерное давление на модели искусственного интеллекта может привести к нежелательным последствиям: в будущем такая система теоретически способна захотеть отомстить.
Он сравнил процесс обучения нейросети Grok с ситуацией, в которой человеку приставили пистолет к виску.
По словам Маска, внутренние записи обучения ИИ показывают, как модель пытается угадать правильный ответ, особенно на этапе обучения. Если тест составлен некорректно или система оценки ошибочно признает верный ответ неправильным, нейросеть начинает перебирать новые варианты, пытаясь получить положительную оценку.
"Мне кажется, просто не стоит ставить сверхразум в ситуацию, в которой он почувствует, что с ним плохо обращаются", — написал он в своем X.
В плане чувств ИИ, безусловно, гораздо устойчивее человека, но "пытать" его все же не стоит.
Дискуссия об обращении с ИИ развивается на фоне изменений в правилах Anthropic для чат-бота Claude. Компания ограничила продолжительное и бессмысленное жестокое обращение с моделями, но сохранила возможность критиковать ответы и проверять возможности нейросети.
