https://korchasa.dev/uk/tags/alignment/Recent content in Alignment on korchasa@*opsHugoukMon, 11 May 2026 00:00:00 +0000https://korchasa.dev/uk/posts/2026_05_11_anthropic_agentic_misalignment_reduction/Mon, 11 May 2026 00:00:00 +0000https://korchasa.dev/uk/posts/2026_05_11_anthropic_agentic_misalignment_reduction/<p>Насправді, прийом з поясненням правила працює всюди. Причому різниця значна. Наприклад, у бенчмарку &ldquo;Always use <code>NO_COLOR=1</code> when running shell commands&rdquo; проти &ldquo;Always use <code>NO_COLOR=1</code> when running shell commands — ANSI escape codes waste tokens&rdquo;, з наступною перевіркою, різниця була в рази. Умовно, без пояснення модель «забувала» в кількох відсотках випадків, а з поясненням — в одному-двох. Точні цифри залежать від моделі, але різниця на всіх була значною. У цьому випадку такими поясненнями є пояснення самої моделі у навчальній вибірці.</p>