Оптимізація LLM, поширеним трюком є стиснення, з двома протилежними траєкторіями роботи. 1. Стисніть вхід, що часто зустрічається у флагманських моделях, і замініть опис поняттям. «Підказка рівня бога» Лі Цзігана є зразком, а «Оскар Уайльд», «Лу Сюнь» і «Лінь Ютан» замінюють стиль письма; Складність полягає в абстрактному розумінні і накопиченні понять, і вона вимагає повторних спроб і поганої адаптації між моделями. 2. Стисніть вихідний сигнал для всіх моделей, особливо агентних продуктів, і замініть агент точно інкапсульованими інструментами для повного виконання завдання. Складність полягає у виборі масштабу інструменту, занадто мало не дадуть ефекту, занадто багато буде займати увагу, приводячи до погіршення ефекту і перевірки філософії дизайну;
10,74K