Hallucinations in legal AI: controls for funders and counsel

Halluzinationen in Legal AI: Kontrollen für Funder und Anwälte

Large language models can draft chronologies in minutes. They can also invent citations, dates, and privilege boundaries. For funders underwriting non-recourse capital, that gap is a budget and waiver problem—not a novelty.

Where hallucinations hurt litigation

  • Chronologies — wrong timestamps break settlement corridors.
  • Disclosure lists — phantom documents trigger costly rework and waiver debates.
  • Issue lists — counsel spends days correcting machine output instead of arguing merits.

Controls we require before funding

  1. Human sign-off — qualified lawyer approves any AI output used in pleadings or disclosure.
  2. Source pinning — every asserted fact links to Bates or native file hash.
  3. Versioning — prompts, model IDs, and outputs stored in the data room.
  4. Red-team pass — second reviewer hunts for invented cases and quotes.
For claimants: AI can shrink first-pass review cost. It cannot replace counsel judgment on privilege, strategy, or settlement authority.

See our x402 screening demo for how we structure ingest → merits → counsel review.

Sprachmodelle liefern Chronologien in Minuten — und erfinden auch Zitate, Daten und Privilegiengrenzen. Für Funder mit nicht rückforderbarem Kapital ist das Budget- und Waiver-Thema, kein Gimmick.

Wo Halluzinationen schaden

  • Chronologien — falsche Zeitstempel zerstören Vergleichskorridore.
  • Disclosure-Listen — Phantom-Dokumente erzeugen teure Nacharbeit.
  • Issues — Anwälte korrigieren Maschinenoutput statt Merits zu argumentieren.

Kontrollen vor Finanzierung

  1. Anwaltliche Freigabe für jeden KI-Output in Schriftsätzen oder Offenlegung.
  2. Quellen-Fixierung — jede Behauptung mit Bates oder Datei-Hash.
  3. Versionierung — Prompts, Modelle, Outputs im Data Room.
  4. Red-Team — zweiter Reviewer sucht erfundene Urteile und Zitate.
Für Kläger: KI senkt Review-Kosten im Erstpass — ersetzt aber nicht Privileg, Strategie oder Vergleichsbefugnis.

Unser x402-Screening-Demo zeigt Ingest → Merits → anwaltliche Prüfung.

← All posts← Alle Beiträge