https://korchasa.dev/ru/tags/alignment/Recent content in Alignment on korchasa@*opsHugoruhttps://korchasa.dev/ru/posts/anthropic_agentic_misalignment_reduction/Mon, 01 Jan 0001 00:00:00 +0000https://korchasa.dev/ru/posts/anthropic_agentic_misalignment_reduction/<p>На самом деле, прием с объяснением правила работает везде. Причем разница значительная. Например, в бенчмарке &ldquo;Always use <code>NO_COLOR=1</code> when running shell commands&rdquo; против &ldquo;Always use <code>NO_COLOR=1</code> when running shell commands - ANSI escape codes waste tokens&rdquo;, с последующей проверкой разница была в разы. Условно, без объяснения модель &ldquo;забывала&rdquo; в нескольких процентах случаев, а с объяснением - в одном-двух. Точные цифры зависят от модели, но разница на всех была значительной. В данном случае такими объяснениями являются объяснения самой модели в обучающей выборке.</p>