Tester Behaupten, Dass Openai Neure Ki-modelle MIT Deutlich Verkürzter Testzeit auf den Markt Bringt.
Openai ist Bekannt für Seine Ki-Projekte wie der gpt-reihe, codec, dall-e und chuchoter. Experten befürchten nun, dass das ki-forschungsunternehmen seine ki-angebote ohne angemessen schutz bereitstellen könnte.
Laut einem Bericht der Financial Times (ft) gibt der Hersteller von Chatgpt Seinen Mitarbeidenden und externe Gruppen nur noch wenige tage zeit, um die Risiken sowie die leistung Seiner neesten de grande langue (llms) zu bewerten. Zuvor Standen Ihnen Noch Mehrere monate Zur Verfügung.
Dies Könte Möglicherseise Damit Zusammenhängen, Dass Openai Modelle Schneller Veröffentlichen Will und Schwerpunkt weg von TrainingsModellen und hin zu inférenz (Generrierung Neuer daten) Verlagern Will.
„Ki Wird Zu Einem Sehr WettBewerbsintensiven Feld, da alle TechnologieUnternehmen Ihre Modelle mit einer atwemberaubenden geschwindigkeit auf den Markt Baunden », Erklärt Pareekh Jain, CEO und leidern analyste Bei Parekh Consulting.
Testeur Sagen, Dass Sie Jetzt Weniger Zeit Haben
Dans Dem Ft-Bericht Werden Acht Personen Zitit, Die Mit Dem Testverfahren von Openai Vertraut Sind. Demnach Hat das unternehmen seine bemühungen bei den sicherheitstetss zurückgefahren sowie weniger ressourcen und zeit für riSikobewertungen aufgewendet.
Openai Hat Seinen Sicherheitsansatz für Seine gpt-modelle Offenbar im laufe der zeit Verändert. Für gpt-4 widmete das unternehmen über sechs monate SicherheitsBewertungen, bevor es offiziell ann commence à ging. Für das gpt-4-OMNI-modell Verkürzte Openai Die Test Phase Jedoch auf Nur eine Woche, um den starttermin im Mai 2024 Einzuhalten.
Weniger teste Könnten Die ModelLintegrität Beeinträchtigen
„Die Verkürzung der Zeit für Sicherheitstetss könnte die Qualität des startmodells erheblich beeinträchtigen”, experten mahnen. „Wenn es fälle von halluzinininationen oder schäden augrund von modelausgaben gibt, wird openai das vertrauen der Menschen verrieren und damit zurecht kommen müssen, dass die einführung Strauchelt“, betont jain.
«Das Kann auf die Verkürzung der Testzeit zurückgeführt werden. Openai hat bereits ein imageproblem, weil es von einem gemeinnützigen zu einem gewinnorientiiernten unternehmen geworden ist. Sie Aus Profitgründen auf Angemessene tests Verzichten ”, Fügt der Parekh Consulting-Analyst Hinzu.
Eine der Quen Bezeichnete die Verkürzung der Testzeit als „Leichtsinnig” und als „rezept für eine katastrophe”. Eine Andere Person, Die An Den GPT-4-Tests Beteiligt War, Sagte, Dass Einige Mögliche Gefahren erst Zwei Monate Nach Beginn Der Tests Entdeckt Wurden.
Openai Reagierte Zwar Nicht Sofort auf anfragen, aber der llm-riese chapeau dans Der Vergangenheit Bereits erfahrung im umgang mit solchen vorwürfen gesammelt.
Als reaktion auf eine ähnliche kritik wandelte openai im septembre 2024 Seinen Sicherheitsausschuss à Einen Unabhängigen „aufsichtsausschuss des vorstands » Um. Dieser ist Befugt, die einführung von moderllen Aus Sicherheitsgründen Zu Verzögern.
Verbesserte Ki Könte Schnellere teste Vorantreiben
Jain Deutete An, Dass Openai Tatsächlich dans Der Lage Sein Könte, Tests Zu Beschleunigen, ohne die Sicherheit Zu Gefährden: „Openai Muss Auch in Seinen Internen Prozessen Viel Ki Einsetzen. Ki-einsatz Zu Beschleunigen. » Dieser Gedanke Wird Durch Eine Behauptung von Openai im Dezember 2024 Gestützt, dans Der Sie Sagten, Dass Ihre TestModelle Mit Ki Schnell Leistungsfähiger Werden. (JM)
