Codex Desktop testet Vorhersage der nächsten Nachricht per Tab

Am 9. Oktober hat OpenAI in der Codex-Desktop-App eine Testfunktion namens „Composer predictions“ freigeschaltet: Nach jeder Antwort von Codex erscheint im Eingabefeld eine vorhergesagte nächste Nachricht. Mit der Tab-Taste lässt sie sich ins Feld übernehmen; ob der Nutzer sie ändert oder abschickt, entscheidet er selbst.

Es ist der fünfte Tag des Versprechens „28 Tage, jeden Tag ein Update“ von Thibault Sottiaux, dem Verantwortlichen für Codex. Auf einer Social-Media-Plattform schrieb er, die Vorhersagen seien so treffend, dass sie „Often leads to a double take“ auslösten, also oft zu einem zweiten, ungläubigen Blick führten.

Wer es nutzen kann und wie

Laut dem OpenAI-Hilfecenter und einer Ankündigung in der Entwickler-Community gilt für die Funktion derzeit Folgendes:

  • Nutzer: Personen ab 18 Jahren mit einem privaten ChatGPT-Pro-Konto in allen freigeschalteten Regionen; während des Tests in der Regel nicht für andere Tarife geöffnet;
  • Ort: lokale Threads und SSH-Threads in der Codex-Desktop-App, mit dem Modell GPT-6 Astra oder GPT-6.1 Sol; in der Web-Version und im Chat der Desktop-App gibt es sie nicht;
  • Bedienung: Ein Druck auf Tab setzt den Text lediglich ins Eingabefeld und sendet nichts ab, im Wortlaut der Ankündigung: „Accepting a prediction does not send it automatically.“; außerdem erscheint nicht nach jeder Antwort ein Vorschlag;
  • Schalter: Für berechtigte Nutzer standardmäßig aktiv; ausschalten lässt sie sich unter Settings → General → Composer → Show predictions.

Bei den Kosten gilt: Während der Testphase kostet das Erzeugen von Vorhersagen nichts extra und wird weder auf das Codex-Nutzungskontingent noch auf Guthaben angerechnet. Die Nachricht, die nach dem Übernehmen einer Vorhersage tatsächlich abgeschickt wird, zählt wie gewohnt zur Nutzung.

Beim Datenumfang schreibt OpenAI, dass die Vorhersage nur den bereits im aktuellen Thread vorhandenen Kontext nutzt, keine zusätzlichen Erinnerungen abruft und keine Informationen aus verbundenen Apps liest. Welche Pro-Konten als „berechtigt“ gelten und mit welchem Modell die Vorhersagen erzeugt werden, hat OpenAI nicht näher erläutert.

Gleiche Taste, anderer Inhalt

Die Tab-Taste ist in KI-Programmierwerkzeugen längst vergeben. Die Tab-Vervollständigung von Cursor und der Vorschlag für die nächste Änderung bei GitHub Copilot sagen beide Code voraus: was hinter dem Cursor stehen soll und wo als Nächstes etwas zu ändern ist. Der Nutzer schreibt im Editor Zeile für Zeile, das Werkzeug rät daneben Zeile für Zeile mit.

Codex setzt die Funktion an einer anderen Stelle ein. Sein Hauptschauplatz ist ohnehin das Dialogfenster: Der Nutzer gibt eine Anweisung, der Agent ändert das Repository, lässt Tests laufen und berichtet zurück. Was der Nutzer nach so einer Runde am wahrscheinlichsten sagt, sind meist kurze Sätze wie „Test laufen lassen“, „das auch gleich ändern“ oder „commit das“. Wer solche Sätze vorhersagt, spart das Hin und Her zwischen Nutzer und Agent, nicht die Zeit des Tippens von Code.

Dieses Design wirft auch eine Grenzfrage auf. Rät eine Code-Vervollständigung falsch, sieht man es im Editor sofort; liegt eine Dialogvorhersage daneben und ein beiläufig abgeschicktes „weiter“ oder „mergen“ geht raus, treffen die Folgen die nächsten Aktionen des Agenten. OpenAI weist auf der Hilfeseite darauf hin, dass Vorschläge nicht immer der Absicht entsprechen, und verlangt, sie vor dem Senden durchzusehen; dass Tab nicht automatisch sendet, folgt derselben Überlegung.

Tag 5 von 28

Seit dem 4. Oktober gilt für das Team eine Regel von Sottiaux: Innerhalb von 28 Tagen soll es jeden Tag entweder ein Update liefern, das für die Mehrheit der Nutzer von Codex und ChatGPT Work spürbar besser ist, oder allen einen vollständigen Reset des Nutzungskontingents gewähren. Am fünften Tag deckt das Ergebnis des Teams nur private Pro-Nutzer ab und passt damit nicht recht zum Anspruch „für die meisten Nutzer relevant“ aus dem Versprechen; in der Community hat bisher niemand deswegen nachgehakt.

Ob der Test auf Plus und Unternehmenstarife ausgeweitet wird und ob Vorhersagen nach Ende des Tests auf das Kontingent angerechnet werden, steht in der Ankündigung nicht.

Quellen: OpenAI-Hilfecenter, CocoLoop, Ankündigung in der OpenAI-Entwickler-Community, Äußerungen von Thibault Sottiaux auf einer Social-Media-Plattform; maßgeblich für Tarife, Modellnamen, Abschaltpfad und Abrechnungsregeln sind die Angaben im OpenAI-Hilfecenter und in der Community-Ankündigung.