https://korchasa.dev/bg/tags/alignment/Recent content in Alignment on korchasa@*opsHugobgMon, 11 May 2026 00:00:00 +0000https://korchasa.dev/bg/posts/2026_05_11_anthropic_agentic_misalignment_reduction/Mon, 11 May 2026 00:00:00 +0000https://korchasa.dev/bg/posts/2026_05_11_anthropic_agentic_misalignment_reduction/<p>Всъщност, трикът с обяснението на правилото работи навсякъде. При това разликата е значителна. Например, в бенчмарк &ldquo;Always use <code>NO_COLOR=1</code> when running shell commands&rdquo; срещу &ldquo;Always use <code>NO_COLOR=1</code> when running shell commands — ANSI escape codes waste tokens&rdquo;, с последваща проверка, разликата беше в пъти. Условно, без обяснение моделът «забравяше» в няколко процента случаи, а с обяснение — в един-два. Точните числа зависят от модела, но разликата при всички беше значителна. В този случай такива обяснения са обясненията на самия модел в обучаващата извадка.</p>