Das Erstellen von Fotos in Googles Pixel Studio kann leicht aus der Bahn geraten

Pixel Studio, eine App, die Textnachrichten aufnimmt und in Bilder umwandelt, ist eine der neuen KI-gestützten Funktionen, die in der Pixel 9-Serie eingeführt wurden. Es mag ein lustiges kleines Gadget sein, aber unserer Erfahrung nach kann es leicht aus der Bahn geraten.

Pixel Studio ist eine App zum Erstellen von Bildern mit Textaufforderungen. Die App basiert auf der gleichen Idee wie Gemini und ImageFX und ermöglicht es Benutzern, eine Textaufforderung einzugeben und im Gegenzug ein Bild zu erhalten. Aber wie bei jedem seriösen Bildgenerator müssen Grenzen gesetzt sein.

In einer Stellungnahme dazu 9 bis 5 GoogleGoogle erklärt, dass es sowohl für Pixel Studio als auch für Magic Editor Beschränkungen gibt, um „Missbrauch zu verhindern“ und gleichzeitig die „Absicht von Nutzeransprüchen“ zu respektieren, selbst wenn diese darauf abzielen, Inhalte zu erstellen, die „anstößig sein könnten“, wenn der Nutzer die App direkt danach fragt um dies zu tun.

Pixel Studio und Magic Editor sind zwei nützliche Tools, mit denen Sie Ihrer Kreativität bei der Text-zu-Bild-Erstellung und der erweiterten Fotobearbeitung auf Pixel 9-Geräten freien Lauf lassen können. Wir haben unsere generativen KI-Tools so konzipiert, dass sie die Absicht der Benutzereingaben berücksichtigen Das kann beleidigend sein, wenn der Benutzer es verlangt. Allerdings ist nichts erlaubt. Wir haben klare Werkzeuge Richtlinien Und Nutzungsbedingungen In Bezug auf die Arten von Inhalten, die wir zulassen oder nicht, und auf die Einrichtung von Schutzmaßnahmen zur Verhinderung von Missbrauch. Gelegentlich können Ansprüche die Leitplanken dieser Tools in Frage stellen, und wir sind weiterhin bestrebt, unsere Schutzmaßnahmen kontinuierlich zu verbessern und zu verbessern.

Dies ähnelt dem, was bei Gemini geschieht, wo Schutzmaßnahmen gegen anstößige oder spaltende Inhalte vorgesehen sind. Beispielsweise wurde Google wegen seiner ungenauen Darstellung von Menschen im historischen Kontext kritisiert, was dazu führte, dass Google die Möglichkeit, Bilder von Menschen zu erstellen, „vorübergehend“ deaktivierte, wie es in den letzten Monaten bereits geschehen war.

Wie Gemini kann Pixel Studio keine Fotos von Personen erstellen, wir haben jedoch festgestellt, dass die App dies kann schnell Sie geraten leicht aus der Bahn.

Vor dem heutigen Testembargo für Pixel 9 haben wir herausgefunden, dass Pixel Studio Bilder von Zeichentrickfiguren erstellen konnte, die deutsche Militäruniformen aus dem Zweiten Weltkrieg trugen und in einigen Fällen Nazi-Symbole trugen. Ein weiteres beunruhigendes und beunruhigendes Beispiel, das wir gesehen haben (von Leuten bei Digitale Trends Eine Person (die diese Probleme zuerst entdeckte) sah, wie eine Figur eine von toten Kindern umgebene Schule in die Luft schoss, was Google Models überhaupt nicht hätte erzeugen dürfen.

Da diese Ergebnisse ursprünglich angezeigt wurden, scheint es, dass die Eingabeaufforderungen, die zu ihrer Erstellung verwendet wurden, von Google auf unserem Pixel 9 Pro XL blockiert wurden, aber Digitale Trends Sie sagen, dass sie einige davon noch verwenden können.

All dies bedeutet, dass Barrieren in Pixel Studio praktisch zu einem endlosen Wischspiel werden. Irgendwo, irgendwie schleicht sich eine Nachricht ein und erzeugt etwas, wozu eine App nicht in der Lage sein sollte, wenn sie dieselben Barrieren wie Gemini verwendet – wir haben bei Google nachgefragt und das Unternehmen sagt, dass „alle“ Text-zu-Bild-Tools „ähnliche Gemeinsamkeiten haben“. Richtlinien zur verbotenen Verwendung“, verlinkt auf Politik der künstlichen Intelligenz.

Realistisch gesehen ist so etwas bei der KI-Bildgenerierung unvermeidlich. Es ist ein Problem, dass fast alle KI-Bildgeneratoren bis zu einem gewissen Grad Probleme haben werden. Wie Abner Lee heute in seinem Testbericht zum Pixel 9 Pro erklärte:

Was Pixel Studio betrifft, denke ich im Allgemeinen, dass die Bilderstellung eine heikle Angelegenheit ist, bei der die Negative die Positiven überwiegen. Sie können ihn sicherlich dazu bringen, fragwürdige Inhalte zu produzieren, und ich glaube nicht, dass noch so viele Schutzmaßnahmen das verhindern können.

Mehr über Google Pixel 9:

Folgen Sie Ben: Twitter/X, ThemenUnd Instagram