Carico di Lavoro del Team Leader #76

Closed
opened 2025-10-31 17:06:23 +01:00 by Berack96 · 0 comments
Berack96 commented 2025-10-31 17:06:23 +01:00 (Migrated from github.com)

Il carico di lavoro del Team Leader potrebbe essere troppo per una LLM piccola.
Quello che si può fare è lo spezzare le sue task in due diverse LLM.
Ovvero creare le seguenti LLM:

  1. Query Planner: una LLM che pianifica come risolvere la query
  2. Team Leader: una LLM che esegue il piano creato.

Questo dovrebbe ridurre il carico di lavoro attuale ed evitare delle allucinazioni.
Insieme alla Issue #53 (RAG) questo dovrebbe migliorare le prestazioni dell'intero sistema (forse)

Il carico di lavoro del Team Leader potrebbe essere troppo per una LLM piccola. Quello che si può fare è lo spezzare le sue task in due diverse LLM. Ovvero creare le seguenti LLM: 1. Query Planner: una LLM che pianifica come risolvere la query 2. Team Leader: una LLM che esegue il piano creato. Questo dovrebbe ridurre il carico di lavoro attuale ed evitare delle allucinazioni. Insieme alla Issue #53 (RAG) questo dovrebbe migliorare le prestazioni dell'intero sistema (forse)
Sign in to join this conversation.