lmstudio per riassumere pagine web con estensione chrome
https://github.com/pakkio/summary
(00:01) 📌 LM Studio permette di lanciare modelli di linguaggio simili a ChatGPT ma più piccoli. Recentemente, è diventato possibile usarli per l'italiano, anche se con qualche limitazione.
(00:44) 🛠️ Con LM Studio, è stata creata un'estensione per Chrome che riassume pagine web. Il modello Zephir ha una lunghezza di contesto di 16.000 token, sufficiente per questo scopo.
(01:12) 🔄 Il server di LM Studio viene lanciato e l'estensione può essere usata per riassumere pagine web in italiano, anche se il prompt inizialmente tende a rispondere in inglese.
(02:01) 🌐 Per far funzionare meglio il riassunto in italiano, il prompt deve essere semplice. La velocità del riassunto non è eccezionale, ma funziona.
(03:24) 👨💻 Per creare l'estensione, è stato chiesto a ChatGPT come fare. Ha fornito indicazioni su quali file creare: manifest.js, popup.html, e popup.js, e su come scriverli.
(04:41) 🗂️ I file sono stati organizzati in una cartella e l'estensione è stata caricata in Chrome. Anche se ci sono errori, l'estensione funziona bene nel complesso.
(05:21) 🔍 Si può usare l'estensione per riassumere articoli in diverse lingue. Ad esempio, un articolo di costume su Trump scritto in inglese può essere riassunto in italiano.
(06:10) 🌍 Anche se i modelli tendono a rispondere in inglese, è possibile ottenere riassunti in italiano con prompt semplici.
(07:12) 🚀 Il modello utilizzato è di 5GB, abbastanza piccolo e veloce. Può essere utilizzato anche per riassumere articoli in altre lingue, come il coreano.
(08:44) 📖 Con articoli in inglese, l'estensione funziona senza problemi. Per ottenere riassunti in italiano, è necessario specificare chiaramente nel prompt.
(09:38) 📋 Riassumere articoli e elencare i concetti principali funziona meglio con prompt dettagliati. L'estensione risponde spesso in inglese, ma può essere adattata per rispondere in italiano.
(10:43) 🛠️ Rimane ancora molto lavoro da fare per migliorare l'estensione. Il codice sorgente dell'estensione è disponibile per chi fosse interessato a sperimentare.
(11:28) 👍 Fine della dimostrazione. Buona giornata!