Paperless-AI

[Tuxnet]

Guten Morgen zusammen,

konnte hier schon jemand Erfahrungen mit Paperless-AI machen .
Sieht ganz interessant aus wollte mich eventuell am Wochenende mal dran setzen.

An automated document analyzer for Paperless-ngx using OpenAI API and Ollama (Mistral, llama, phi 3, gemma 2) to automatically analyze and tag your documents.

https://github.com/clusterzx/paperless-ai


Edit :


Ich sehe, dass Marius bereits dran ist
https://mariushosting.com/how-to-install-paperless-ai-on-your-synology-nas/

 

[JohneDoe]

Was brauchst du denn mehr als die Compose, die vorgegebenen ist?
Wie in einem Thread schon geschrieben, finde ich es interessant, aber da keine eigene KI hoste fällt das für mich aus. Ich will meine Dokumente nicht von Open AI analysieren lassen. Und selber hosten fällt aus, weil ich die nötige Hardware nicht habe.

 

[Tuxnet]

guten Morgen @JohneDoe

Ich habe ja nicht nach einer Installationsanleitung gefragt, sondern ob es Erfahrungen über die Paperless-ngx Erweiterung gibt.

 

[mjth.ffb]

Korrigiert mich wenn ich falsch liege, aber sind bei Marius nicht 2 Möglichleiten erklärt? Also entweder mit OpenAI ODER mit lokalem Sprachmodell (Ollama)?

Grüße

Mikey

 

[metalworker]

Hallo Mikey ,

ich hab das auf meiner Spielwiese mal installiert gehabt.
Ging recht einfach einzurichten.

Aber habs dann nicht übernommen.
Für mich gabs keinenen wirklich Mehrwert .

 

[JohneDoe]

Ich dachte du suchst auch eine Anleitung weil du auf Marius verlinkt hast. Und er macht ja nur Anleitungen.
Aber wie dem aus sei, ich habe es aus privacy Gründen nicht weiter getestet.

@metalworker hast du es mit Open AI oder der eigenen LLM getestet? Wenn zweiteres was für Hardware hat deine Spielwiese?

 

[mjth.ffb]

@metalworker ,
merci für das Statement. Spielwiese war das Stichwort. Die hab ich auch.
Trotzdem: Wenn ich das bei Marius richtig verstehe, gibt`s da echt 2 Möglichkeiten, oder? Also lokal oder OpenAI?
Weil wenn das trotz allem über OpenAI läuft kommt das für mich auch nicht in Frage.
In einem Screenshot am Schluß der Anleitung sehe ich da eine Möglichkeit der Klartexteingabe. Eigentlich genial.
Ich hab eine Fotoverwaltung mit lokaler KI wo man Fotos mit Klartexteingabe suchen kann. Funzt hervorragend.

Grüße

Mikey

 

[metalworker]

Ich hab es mit eigenen LLM getestet .
Aber meine Spielwiese hat auch genug Dampf . Ist nen Dual Xeon System mit 512GB RAM ;-)
Also sicht nicht für den Normalen User vergleichbar.

 

[JohneDoe]

@metalworker genau darum ging es mir. Also die Hardware die man üblich im Homelab hat, schafft wahrscheinlich keine LLM so so betreiben, dass es auch Spaß macht damit zu arbeiten.

Trotzdem: Wenn ich das bei Marius richtig verstehe, gibt`s da echt 2 Möglichkeiten, oder?

Ja entweder Open AI oder selber hosten. Aber da brauchst du schon ordentliche Hardware für. Eine DS224+ bekommt das wohl nicht wirklich hin. Auch wenn Marius eine Anleitung für Synology dafür hat. Nur weil etwas auf einem System läuft, heißt es nicht, dass es sinnvoll ist das auch zu nutzen oder es Spaß macht....