Im vergangenen Jahr hat der Einsatz von generativer KI (Gen AI) in verschiedenen Branchen und Funktionen wie Kundenbetrieb, Marketing und Vertrieb, Softwareentwicklung sowie Forschung und Entwicklung erheblich zugenommen. In einer Welt, in der 50 Prozent der geschäftlichen oder organisatorischen Entscheidungen potenziell von KI getroffen werden, müssen Unternehmen daran arbeiten, Vertrauen aufzubauen.

Laut unserer jüngsten Studie erlauben 97 Prozent der globalen Unternehmen ihren Mitarbeitern, generative KI in irgendeiner Form zu nutzen. Während große Sprachmodelle und agentenbasierte KI-Systeme ein unglaubliches Potenzial haben, werden die Verzerrungen in ihren Trainingsdaten und die Robustheit von Sicherheitsbeschränkungen zunehmend in Frage gestellt.

Der Aufstieg von Basismodellen geht mit Vertrauensproblemen einher. Werden diese vernachlässigt, führt dies zu finanziellen Verlusten und Geschäftsrisiken.

Zusammenhangslose Evaluierungen und Tests, mangelnde Überwachung von Inhalten oder das Fehlen konsistenter Benchmarks können zu nicht vertrauenswürdigen Lösungen führen.

Um Gen AI im großen Maßstab effektiv einsetzen zu können, müssen Unternehmen die Leitplanken aus einer operativen und nicht aus einer lösungsspezifischen Perspektive betrachten und gleichzeitig sicherstellen, dass ein spezifischer Rahmen für den Geschäftskontext und die Domäne festgelegt wird.

“Trust is bigger than one question, it’s a multi-dimensional problem, so you need to think about trust in a specific context.”