LLMLingua - Prompt Compression for LLM.

Kompresor zapytań do modeli językowych. Kompresja od 2x-20x. Pozwala zaoszczędzić na wysyłanych tokenach jak pytamy jakiś model AI.