Dieselbe Arbeit, an zwei verschiedenen Orten
Spracherkennung ist ein Stück Software, das ein Modell laufen lässt: eine große Datei, trainiert darauf, aus Klang Wörter zu machen. Daran ist nichts Geheimes, und es muss irgendwo laufen.
In der Cloud liegt diese Datei auf einem Server. Dein Gerät nimmt auf, schickt über das Netz, wartet und bekommt Text zurück. Du siehst die Datei nie und denkst nie über sie nach, und genau das ist der Reiz.
Lokal liegt die Datei auf deinem eigenen Gerät. Der Ton geht nirgendwohin. Dein Handy oder dein Rechner lädt das Modell, macht die Arbeit und erzeugt Text, ohne dass etwas ein Netz überquert.
Das ist der ganze Unterschied. Alles Weitere ist Folge davon.
Worin die eine und die andere gut ist
Erkennung in der Cloud kann riesig sein. Ein Server hat Arbeitsspeicher, Kühlung und besondere Hardware, das Modell darf also weit größer sein als alles, was auf ein Handy passt. Mehr Kapazität heißt in der Regel, dass Dialekt, Lärm im Hintergrund, ungewöhnliche Namen und schnelle Sprecher besser bewältigt werden. Es lässt sich außerdem zentral erneuern, wird also besser, ohne dass du etwas tust, und es kann sehr lange Sprachlisten tragen, weil Größe dort nicht die Grenze ist.
Lokale Erkennung ist durch das Gerät begrenzt. Auf einem Handy heißt das ein paar Gigabyte Arbeitsspeicher, geteilt mit allem anderen, kein Lüfter und ein Akku, auf den es aufzupassen gilt. Das Modell muss klein genug sein, um schnell zu laden und fertig zu werden, bevor dir die Geduld ausgeht.
Bei der reinen Leistungsfähigkeit hat die Cloud also den Vorteil, und das steht nicht zur Debatte.
Was dir lokal dafür gibt
Es läuft ohne Verbindung. Kein Empfang, Flugmodus, ein Keller, ein fremdes Land mit abgeschalteten Daten: nichts davon ist ein Sonderfall, weil das Netz nie Teil des Vorgangs war.
Es scheitert anders. Erkennung über die Cloud scheitert bei schlechter Verbindung gern leise. Sie wartet, läuft ab, oder verliert den Satz, den du eben gesagt hast. Lokale Erkennung funktioniert entweder oder nicht, und sie funktioniert.
Die Wartezeit gehört dir. Das Tempo in der Cloud hängt an deiner Verbindung und an der Last auf fremden Servern. Lokales Tempo hängt an deiner Hardware und an der Modellgröße, die du gewählt hast, und das ist wenigstens eine Größe, über die du bestimmst.
Dein Ton reist nicht. Deswegen sind die meisten Leute hier. Passiert die Erkennung auf deinem Gerät, gibt es keinen Upload, keinen Server, der deine Stimme empfängt, und keine Kopie davon anderswo. Das ist eine Eigenschaft der Bauweise und kein Versprechen in einem Richtliniendokument.
Es braucht kein Konto. Verarbeitung auf Serverseite setzt meistens voraus, dass man weiß, wer da fragt. Verarbeitung auf dem Gerät setzt das nicht voraus.
Was dich lokal kostet
Das Modell auf dem eigenen Handy laufen zu lassen hat einen Preis, und der wird in Leistungsfähigkeit bezahlt.
Speicherplatz. Das Modell muss auf dem Gerät liegen. Je nach gewählter Größe sind das Dutzende bis Hunderte Megabyte, und auf einem Handy, das ohnehin voll ist, zählt das.
Arbeitsspeicher im Betrieb. Das Modell muss während der Mitschrift im Arbeitsspeicher gehalten werden, und deshalb tun sich ältere Geräte mit größeren Modellen schwer.
Ein kleineres Modell. Was meistens etwas weniger Genauigkeit bedeutet als bei den besten Cloud-Diensten, besonders bei starkem Dialekt oder in lauten Räumen.
Weniger Sprachen. Mehrsprachigkeit kostet Größe, ein Modell auf dem Gerät deckt also weniger Sprachen ab als eines auf einem Server.
Ein erster Download. Das Modell muss irgendwie ankommen, und dieser Schritt braucht eine Verbindung, auch wenn danach nichts mehr eine braucht.
Wo die Mitte liegt
Die meisten Leute brauchen nicht das größtmögliche Modell. Sie brauchen ein Diktat, das in den Momenten funktioniert, in denen sie tatsächlich schreiben: eine Antwort im Zug, eine Notiz im Laden, eine Mail im Gehen. Das sind kurze, deutlich gesprochene Sätze in ein Mikrofon dicht am Gesicht, und das ist für jedes neuere Modell der leichte Fall.
Die schweren Fälle, vier Leute um einen Tisch mit dem Mikrofon in der Mitte, kräftiger Lärm im Hintergrund, die Aufnahme einer Vorlesung, sind dort, wo die Kapazität auf Serverseite wirklich gewinnt. Das ist zugleich Arbeit, die du üblicherweise absichtlich machst, mit Zeit, eine Datei hochzuladen und zu warten.
Es so aufzuteilen nützt mehr, als sich für eine Seite zu entscheiden: lokal für das Schreiben, das du den ganzen Tag machst, Serverseite für die Aufnahmen, die du absichtlich dokumentierst.
Der gemischte Fall, und warum er Sorgfalt braucht
Eine dritte Anordnung ist verbreitet, und man verwechselt sie leicht mit einer der beiden anderen.
Reichlich Produkte machen beides. Sie schreiben auf dem Gerät mit, wenn die Umstände es zulassen, und greifen zu einem Server, wenn sie mehr Kapazität, mehr Sprachen oder mehr Tempo wollen. Manchmal wählst du, manchmal wählt die Software für dich, anhand deiner Hardware, deiner Sprache oder danach, ob ein Bestandteil fertig installiert wurde.
Als Technik ist das vernünftig. Du bekommst in jeder Lage die beste verfügbare Antwort.
Als Zusicherung ist es schwächer, und der Unterschied zählt je nachdem, warum du lokal überhaupt wolltest. Wolltest du es, weil dein Empfang unzuverlässig ist, ist gemischt völlig in Ordnung: Es fällt zurück, und du machst weiter. Wolltest du es, weil deine Stimme lieber nicht übertragen werden soll, dann hängt das Ergebnis von einem Zustand ab, den du im Blick behalten musst, und Zustände wandern. Einstellungen springen zurück. Voreinstellungen ändern sich in Updates. Eine Sprache, die du neu benutzt, ist lokal nicht abgedeckt.
Keine der beiden Bauweisen ist ein Trick. Es sind Antworten auf verschiedene Fragen, und der einzige Fehler besteht darin, die eine für die andere zu halten.
Wie du erkennst, welche eine App benutzt
Beschreibungen sind unzuverlässig, denn "privat", "sicher" und sogar "offline" werden locker benutzt. Zwei Prüfungen klären es.
Flugmodus. Installier die App, lass alles laden, was sie beim ersten Start will, schalte dann mobile Daten und WLAN aus und diktiere. Erscheint Text, ist die Erkennung auf dem Gerät passiert.
Achte auf einen Modell-Download. Eine App, die lokal mitschreibt, muss ihr Modell irgendwie auf dein Gerät bekommen, sie wird dir also von einem Download beträchtlicher Größe erzählen. Eine App, die nie etwas lädt und trotzdem sofort mitschreibt, benutzt fremde Hardware.
Bei einer Formulierung ist besondere Vorsicht geboten. "Deine Notizen werden lokal gespeichert" und "deine Sprache wird lokal erkannt" klingen ähnlich und bedeuten etwas völlig Verschiedenes. Das Erste sagt, wo der Text hinterher liegt, und über den Weg deiner Stimme sagt es gar nichts.
Wo LocalType hier steht
LocalType steht auf der lokalen Seite dieser Linie.
LocalType ist eine Android-Tastatur, die auf dem Handy erkennt, und in der App gibt es keinen Weg in die Cloud. Sie bringt drei Modellgrößen mit, 60, 190 und 539 MB, damit die Abwägung zwischen Speicherplatz und Tempo bei dir liegt und nicht bei uns, und sie deckt achtzehn Sprachen aus einem mehrsprachigen Modell ab. Die mittlere Größe setzte auf dem Testgerät mit 4 GB Arbeitsspeicher 6,9 Sekunden Sprache in 4,1 Sekunden um.
Das heißt, sie trägt jede oben genannte Last: Speicherplatz, Arbeitsspeicher, einen ersten Download, ein Modell, das kleiner ist als das, was ein Server laufen ließe. Und sie bekommt jeden Vorteil: keine Anmeldung, kein Upload, kein Archiv deiner Aufnahmen, und ein Diktat, das sich gleich verhält, ob du Empfang hast oder nicht.
Ob diese Abwägung die richtige ist, hängt ganz davon ab, was du schreibst und wo du es schreibst. Wer beruflich aufgezeichnete Besprechungen mitschreibt und wer im Zug Nachrichten beantwortet, führen nicht dieselbe Debatte.