KI mit eigenen Dokumenten: Was Retrieval wirklich tut

Einem Assistenten zu sagen, er solle "Ihre Dokumente lesen", klingt, als hätte er alles gelesen. Tatsächlich passiert eher eine Suche: Ihre Frage wird zu einer Suchanfrage, ein paar Abschnitte werden aus den Dateien geholt, und die Antwort entsteht nur aus diesen Abschnitten.

Dieser eine Satz erklärt die meisten Enttäuschungen.

Was Retrieval Schritt für Schritt tut

Ihre Frage wird in eine Suchanfrage umgeschrieben — die bedeutungstragenden Wörter, ohne Höflichkeit.
Das System durchsucht die indizierten Dateien und zieht die Abschnitte, die dieser Anfrage am ähnlichsten sind.
Diese Abschnitte und Ihre Frage gehen zusammen an das Modell.
Sie erhalten eine Antwort — und, wenn das Werkzeug ehrlich ist, die Quelle dazu.

Warum eine falsche Antwort meist ein Suchproblem ist

Wenn die Ablage ein Scan ohne Textebene ist, ein Foto einer Tabelle oder ein 90-seitiges PDF, in dem die Antwort auf Seite 71 steht, kommt der Abschnitt nie an. Dann tut das Modell eines von zwei Dingen: es sagt, dass es nichts weiß — oder es schreibt etwas Plausibles. Das Zweite ist das Teure. Fragen Sie jedes Mal nach der Quelle.

Was es im kleinen Büro funktionsfähig macht

Text, keine Bilder. Eingescannte Rechnungen bleiben unsichtbar, bis eine Texterkennung darüber gelaufen ist.
Kleinere Dateien gewinnen. Ein 90-seitiges Handbuch ist ein Klumpen; zehn benannte Abschnitte sind zehn auffindbare Orte.
Namen tragen Information. "2026-Q1 Angebote Kunde Nord" findet sich besser als "scan0007".
Ein Ordner, ein Thema. Verträge, Rechnungen und Angebote im selben Stapel machen jede Suche zum Raten.
Zugriffsrechte gelten weiter. Wer suchen darf, findet dann auch die Personalakte.

Der Zehn-Minuten-Test

Fragen Sie etwas, dessen Antwort Sie kennen — in drei verschiedenen Formulierungen.
Fragen Sie etwas, das sicher nicht in den Dokumenten steht. Ein nützliches System sagt "nicht gefunden".
Öffnen Sie die angegebene Quelle und prüfen Sie, ob dort steht, was die Antwort behauptet.
Zählen Sie, wie oft Sie umformulieren mussten. Ab zwei ist der Dateistapel das Problem, nicht das Modell.

Was es nicht kann

Summen und Vergleiche über hunderte Dokumente sind keine Retrieval-Frage, sondern eine Datenbankfrage. "Wie viel haben wir letztes Jahr für X ausgegeben", beantwortet aus 400 PDFs, ist eine Schätzung mit Zahlen davor.

Retrieval ist ein guter Assistent, um zu finden, was jemand bereits aufgeschrieben hat. Es ersetzt nicht die eine Stelle, an der die wichtigen Zahlen liegen. Testen Sie es an Ihren eigenen Dateien, bevor Sie ihm eine Kundenantwort anvertrauen.

Asking an assistant to "read your documents" sounds like it read everything. What actually happens is closer to a search: your question is turned into a query, a handful of passages are pulled out of the files, and the answer is written from those passages alone.

That one sentence explains most of the disappointments.

What retrieval does, step by step

Your question is rewritten as a search query — the words that carry meaning, without the politeness.
The system looks through the indexed files and pulls the passages that look most similar to that query.
Those passages, plus your question, are handed to the model as its working material.
You get an answer — and, if the tool is honest, the source it came from.

Why a wrong answer is usually a search problem

If the folder is a scan without text, a photo of a table, or a 90-page PDF where the answer sits on page 71, the passage never arrives. The model then does one of two things: it says it does not know, or it writes something plausible. The second is the expensive one. Ask for the source every single time.

What makes it work in a small office

Text, not pictures. Scanned invoices stay invisible until OCR has run over them.
Smaller files win. A 90-page handbook is one lump; ten named sections are ten findable places.
Names carry information. "2026-Q1 quotes customer north" retrieves better than "scan0007".
One folder, one topic. Contracts, invoices and offers in the same pile make every search a guess.
Access rules still apply. If everyone can search, everyone can find the personnel file.

The ten-minute test

Ask something you already know the answer to — in three different phrasings.
Ask something that is definitely not in the documents. A useful system says "not found".
Open the quoted source and check that it says what the answer claims.
Count how often you had to rephrase. Above two, the problem is the pile of files, not the model.

What it cannot do

Totals and comparisons across hundreds of documents are not a retrieval question, they are a database question. "How much did we spend on X last year", answered from 400 PDFs, is a guess with numbers attached.

Retrieval is a good assistant for finding what somebody already wrote down. It is not a replacement for keeping the numbers that matter in one place. Test it on your own files before you trust it with a customer reply.

Bir asistana "belgelerimi oku" demek, sanki hepsini okumuş gibi gelir. Gerçekte olan şeye daha yakın olan bir arama: sorunuz bir arama sorgusuna çevrilir, dosyalardan birkaç pasaj çekilir ve cevap yalnızca o pasajlardan yazılır.

Bu tek cümle, hayal kırıklıklarının çoğunu açıklar.

Retrieval adım adım ne yapar

Sorunuz anlam taşıyan kelimelerle bir arama sorgusuna dönüştürülür.
Sistem indekslenmiş dosyalara bakar ve bu sorguya en çok benzeyen pasajları çeker.
Bu pasajlar ve sorunuz birlikte modele verilir.
Bir cevap alırsınız — araç dürüstse, kaynağıyla birlikte.

Yanlış cevap neden genelde bir arama sorunudur

Klasördeki belge taranmış ve metin katmanı yoksa, tablonun fotoğrafıysa ya da cevap 90 sayfalık bir PDF'in 71. sayfasındaysa, o pasaj asla ulaşmaz. Model o zaman iki şeyden birini yapar: bilmediğini söyler ya da akla yatkın bir şey yazar. Pahalı olan ikincisidir. Her seferinde kaynağı sorun.

Küçük bir ofiste işlemesini sağlayan nedir

Metin, resim değil. Taranmış faturalar, üzerinden OCR geçmeden görünmez kalır.
Küçük dosyalar kazanır. 90 sayfalık bir el kitabı tek yumaktır; adlandırılmış on bölüm, bulunabilir on yerdir.
Ad bilgi taşır. "2026-Q1 teklifler müşteri kuzey" ifadesi "scan0007"den daha iyi bulunur.
Bir klasör, bir konu. Sözleşme, fatura ve teklif aynı yığındaysa her arama tahmin olur.
Erişim kuralları geçerli kalır. Herkes arayabiliyorsa, herkes özlük dosyasını da bulur.

On dakikalık test

Cevabını bildiğiniz bir şeyi üç farklı ifadeyle sorun.
Belgelerde kesinlikle olmayan bir şeyi sorun. Yararlı bir sistem "bulunamadı" der.
Belirtilen kaynağı açıp, cevabın iddia ettiğini gerçekten söylüyor mu bakın.
Kaç kez yeniden ifade etmek zorunda kaldığınızı sayın. İkiden fazlaysa sorun modelde değil, dosya yığınındadır.

Yapamadığı şey

Yüzlerce belge üzerinden toplam ve karşılaştırma almak bir retrieval sorusu değil, veritabanı sorusudur. 400 PDF'ten yanıtlanan "geçen yıl X'e ne kadar harcadık" sorusu, önüne sayı konmuş bir tahmindir.

Retrieval, birinin zaten yazdığını bulmak için iyi bir yardımcıdır. Önemli sayıların durduğu tek yeri kurmanın yerini almaz. Müşteri cevabını ona emanet etmeden önce kendi dosyalarınızda test edin.

← Blog