Eine Websuche liefert drei Dinge: einen Titel, eine URL und einen Textausschnitt von etwa zwei Zeilen. Für eine Einzelfrage reicht das. "Wann tritt die nächste Stufe des EU AI Act in Kraft?" lässt sich aus einem Snippet beantworten. Die Fragen, die in Unternehmen tatsächlich anfallen, sehen anders aus: "Welche Pflichten kommen auf uns zu, wenn wir generative KI intern einsetzen, welche Fristen gelten, und was davon betrifft uns als Betreiber statt als Anbieter?"
Wer so eine Frage in eine Suchmaschine tippt, bekommt zehn Treffer, von denen jeder ein Zehntel der Antwort enthält. Die eigentliche Arbeit beginnt danach: Treffer öffnen, lesen, vergleichen, Widersprüche auflösen, aufschreiben, Quellen notieren. Das ist Recherche, und sie kostet bei so einer Frage schnell mehrere Stunden.
Für diese Arbeit haben wir in TheroAI einen Recherche-Modus gebaut. In diesem Beitrag gehen wir einen Lauf einmal komplett durch, vom Plan bis zum fertigen Bericht. An zwei Stellen erklären wir außerdem, warum wir uns gegen die jeweils naheliegende Bauweise entschieden haben.
Warum eine Websuche keine Recherche ist
Der Assistent in TheroAI kann bei jeder Frage selbst entscheiden, das Web zu durchsuchen. Er formuliert eine Suchanfrage, erhält eine Trefferliste mit Titel, URL und Snippet und antwortet daraus. Für Faktenfragen ist das der richtige Weg. Er ist schnell, und die Antwort steht in Sekunden im Chat.
Bei einer mehrteiligen Frage bricht dieses Muster aus drei Gründen zusammen:
- Eine einzelne Suchanfrage deckt selten alle Teile der Frage ab. "EU AI Act Pflichten Fristen Betreiber" findet Überblicksartikel, aber keine Details zu einzelnen Pflichten.
- Snippets sind Anrisstexte. Die Zahl, der Artikel oder die Ausnahme, auf die es ankommt, steht im Volltext der Seite, nicht im Ausschnitt.
- Die Antwort entsteht in einem Zug. Es gibt keinen Zwischenschritt, in dem das Modell sein Material gegen die Frage prüft und merkt, was noch fehlt.
Recherche besteht aus vier Schritten: mehrere Suchen, echtes Lesen, ein Abgleich gegen die ursprüngliche Frage, am Ende ein Text mit Belegen. Genau diese vier Schritte bildet der Recherche-Modus ab.
Erster Schritt: der Plan
Ein Recherche-Lauf startet im selben Eingabefeld wie jede andere Frage. Sie wählen im Werkzeug-Menü "Recherche" und schicken die Frage ab.
Das Modell sucht dann nicht sofort los. Es schreibt zuerst einen Plan. Dazu zerlegt es die Frage in Teilfragen. Aus der Beispielfrage oben werden etwa: Welche Rollen definiert der AI Act, und in welche fallen wir? Welche Pflichten treffen Betreiber generativer KI? Welche Fristen gelten für welche Pflicht? Welche Erleichterungen gibt es für den rein internen Einsatz? Dieser Plan ist im Produkt sichtbar. Sie können die Denkschritte aufklappen und mitlesen, in welche Teilfragen das Modell Ihre Frage übersetzt hat.
Der sichtbare Plan ist die früheste Stelle, an der Sie prüfen können, ob Ihre Frage angekommen ist. Wenn die Teilfragen am Kern vorbeigehen, war die Frage unpräzise gestellt. Das sehen Sie hier nach wenigen Sekunden, statt es erst nach Minuten am fertigen Bericht abzulesen.
Parallel suchen in zwei Suchräumen
Für jede Teilfrage sucht das System anschließend an zwei Orten gleichzeitig: im offenen Web und im angebundenen Unternehmenswissen.
Die Websuche läuft über Tavily, eine Such-API, die für Sprachmodelle gebaut ist. Statt einer Linkliste zum Weiterklicken liefert sie bereits extrahierte Inhalte der gefundenen Seiten. Das Modell liest Text statt Snippets. Parallel dazu durchsucht das System das interne Wissen: angebundene Laufwerke, Wikis und Dokumente, mit denselben Berechtigungen, die auch sonst im Assistenten gelten. Wer ein Dokument nicht sehen darf, bekommt es auch in keinem Recherche-Bericht zitiert.
Die Teilfragen sind voneinander unabhängig, also lassen wir sie nicht aufeinander warten. Alle Suchen einer Welle laufen parallel. Das ist die eine Stelle im Ablauf, an der sich Wartezeit sparen lässt, ohne an Qualität zu verlieren, und deshalb nutzen wir sie konsequent.
Genau eine Reflexionsrunde
Nach der ersten Suchwelle liegt ein Stapel Material vor. Jetzt folgt der Schritt, der den Recherche-Modus von einer verketteten Websuche unterscheidet: Das Modell legt das Material neben den Plan und prüft, was fehlt. Ist eine Teilfrage unbeantwortet geblieben? Widersprechen sich zwei Quellen? Steht eine wichtige Behauptung ohne Beleg da? Für solche Lücken darf es gezielt nachsuchen.
Und zwar genau einmal. Danach muss es schreiben.
Die naheliegende Bauweise wäre eine Schleife: suchen, sich selbst bewerten, nachsuchen, wieder bewerten, so lange, bis das Modell sich für fertig erklärt. Wir haben uns aus zwei Gründen dagegen entschieden.
Erstens kostet jede Runde Zeit. Ein Recherche-Lauf dauert Minuten, keine Sekunden, und jede zusätzliche Runde verlängert die Wartezeit spürbar. Das ist gut investierte Zeit, wenn die Runde echte Lücken schließt. Genau das leistet die erste Reflexionsrunde: Sie fängt die Fälle ab, in denen die erste Suchwelle eine Teilfrage verfehlt hat. Weitere Runden formulieren dagegen vor allem Suchanfragen um, die es in ähnlicher Form schon gab.
Zweitens braucht eine Schleife eine Abbruchregel, und "bis das Modell zufrieden ist" ist keine. Sprachmodelle sind schlechte Richter ihrer eigenen Vollständigkeit. Dieselbe Frage würde heute nach einer Runde enden und morgen nach fünf. Die Laufzeit wäre für Sie nicht vorhersagbar, und das Verhalten wäre für uns schwer zu debuggen. Ein Lauf mit fester Struktur aus Plan, Suche, einer Reflexion und Bericht verhält sich jedes Mal gleich. Fällt ein Bericht dünn aus, sehen wir im Plan, woran es lag, statt zu hoffen, dass eine weitere Runde es gerichtet hätte.
Diese Entscheidung hat einen Preis, und wir benennen ihn: Es gibt Fragen, bei denen eine zweite Reflexionsrunde noch etwas gefunden hätte. Wir halten den Tausch trotzdem für richtig. Ein Werkzeug, dessen Laufzeit man einschätzen kann, wird im Alltag benutzt. Eines, das mal drei und mal fünfzehn Minuten läuft, wird gemieden.
Der Bericht: Executive Summary und nummerierte Quellen
Am Ende des Laufs steht kein langer Chat-Absatz. Das Modell schreibt einen strukturierten Bericht. Er beginnt mit einer Executive Summary, die die Antwort in wenigen Sätzen vorwegnimmt. Danach folgen Abschnitte entlang der Teilfragen aus dem Plan. Jede wesentliche Aussage trägt einen nummerierten Quellenverweis, und am Ende des Berichts steht die Quellenliste mit Links.
Die Nummern sind der Unterschied zwischen einem Bericht und einer Meinung. Aus dem Bericht leiten Sie eine Entscheidung ab, oder Sie geben ihn an jemanden weiter, der das tut. Diese Person muss prüfen können, ob die Quelle hinter Verweis 3 wirklich sagt, was der Bericht behauptet. Mit dem Verweis ist das ein Klick. Ohne ihn müsste sie die Recherche wiederholen.
Deshalb gilt im Schreibschritt eine harte Regel: Eine Kernaussage, für die es im gesammelten Material keine Quelle gibt, gehört nicht in den Bericht. Das klingt selbstverständlich. Es ist trotzdem die wichtigste einzelne Vorgabe, die wir dem Modell für diesen Schritt machen.
Das Quellen-Menü gehört zur Antwortqualität
Neben dem Eingabefeld sitzt ein unscheinbares Menü, das mehr mit der Qualität des Berichts zu tun hat, als man ihm ansieht: die Quellenwahl.
Fünf Optionen stehen zur Wahl:
- Automatisch: Das Modell entscheidet pro Frage, ob es intern, öffentlich oder in beiden Räumen sucht. Der Standard für die meisten Fälle.
- Nur Unternehmenswissen: Es zählt ausschließlich, was in Ihren angebundenen Quellen steht. Keine Suchanfrage verlässt das System.
- Nur öffentliche Quellen: Nur das offene Web, etwa wenn Sie bewusst die Außensicht wollen.
- Kombiniert: Unternehmenswissen und öffentliche Quellen in einem Lauf, wenn die Frage einen Abgleich verlangt, zum Beispiel interne Richtlinie gegen aktuelle Rechtslage.
- Keine externen Quellen: Das Modell arbeitet nur mit dem Gesprächsverlauf und seinem Trainingswissen. Sinnvoll für Umformulieren und Strukturieren, wo Suchtreffer nur Rauschen wären.
Warum gehört dieses Menü zur Antwortqualität? Weil dieselbe Frage gegen verschiedene Quellen etwas Verschiedenes bedeutet. "Wie handhaben wir Homeoffice im Ausland?" ist gegen das Unternehmenswissen eine Frage nach Ihrer Richtlinie. Gegen das offene Web ist es die Frage, wie irgendjemand das Thema handhabt. Die Antwort klingt genauso flüssig und ist trotzdem die falsche. Umgekehrt liefert "Welche Meldepflichten gelten ab 2026?" aus rein internen Quellen im Zweifel die Zusammenfassung vom letzten Jahr, während das Web den aktuellen Stand kennt.
Ein falsch gewählter Suchraum erzeugt keine erkennbar falsche Antwort. Er erzeugt eine flüssige, ordentlich belegte Antwort auf eine andere Frage als die gemeinte. Deshalb behandeln wir die Quellenwahl als Teil der Frage und legen sie sichtbar neben das Eingabefeld, statt sie in den Einstellungen zu vergraben.
Websuche oder Recherche-Modus?
| Kriterium | Websuche im Chat | Recherche-Modus |
|---|---|---|
| Geeignet für | Einzelne Fakten | Mehrteilige Fragen |
| Suchläufe | Eine Anfrage, eine Trefferliste | Mehrere Suchen pro Teilfrage, parallel |
| Gelesen wird | Titel, URL, Snippet | Extrahierte Seiteninhalte und Dokumente |
| Zwischenschritt | Keiner | Plan und genau eine Reflexionsrunde |
| Ergebnis | Antwort im Chat | Bericht mit Summary und nummerierten Quellen |
| Dauer | Sekunden | Minuten |
Beide Modi haben ihren Platz. Die Websuche ist der Normalfall im Alltag. Der Recherche-Modus ist das Werkzeug für Fragen, deren Antwort Sie weitergeben, ablegen oder verteidigen müssen.
Was Sie davon mitnehmen können
- Stellen Sie Faktenfragen im normalen Chat. Der Recherche-Modus lohnt sich, sobald die Antwort Struktur und Belege braucht.
- Geben Sie der Frage Kontext mit: wofür Sie die Antwort brauchen und aus welcher Rolle heraus Sie fragen. Der Plan trifft die Frage dann deutlich genauer.
- Klappen Sie den Plan auf, sobald er erscheint. Liegen die Teilfragen daneben, schärfen Sie die Frage und starten einen neuen Lauf. Das kostet Sekunden, ein Bericht zur falschen Frage kostet Minuten.
- Wählen Sie den Suchraum bewusst. Interne Frage, interne Quellen. Rechtslage und Markt, öffentliche Quellen. Im Zweifel Automatisch.
- Prüfen Sie die nummerierten Quellen an den Stellen, an denen der Bericht eine Entscheidung trägt. Genau dafür sind sie da.
Thero live sehen
Buchen Sie eine kurze Demo. Sie sprechen direkt mit dem Gründerteam.