Die niederländische Datenschutzbehörde hat nach eingehenden Tests eine deutliche Warnung vor KI-gestützten Smart Glasses ausgegeben. Die Geräte können ihren Trägern fehlerhafte oder sogar illegale Ratschläge geben und sie dadurch in gefährliche Situationen bringen.
Die Tests zeigten mehrere problematische Verhaltensmuster: Die KI-Systeme in den Brillen lieferten teilweise faktisch falsche Informationen, interpretierten Situationen fehlerhaft und gaben unter Umständen Empfehlungen ab, die gegen geltendes Recht verstossen könnten. Besonders besorgniserregend ist, dass die Nutzer dem System vertrauen und dessen Ratschläge befolgen, ohne die Zuverlässigkeit zu überprüfen.
Neben der inhaltlichen Zuverlässigkeit der KI gibt es auch Datenschutzbedenken. Die Brillen erfassen ständig visuelle Informationen aus der Umgebung des Trägers und verarbeiten diese mit Cloud-Systemen. Dies wirft Fragen zum Schutz von Persönlichkeitsrechten und zur Datensicherheit auf, besonders wenn die Geräte im beruflichen Kontext oder in gemischten Umgebungen genutzt werden, in denen auch Dritte abgebildet werden.
Für Schweizer Unternehmen bedeutet dies, dass Wearables mit integrierten KI-Funktionen zunächst kritisch zu evaluieren sind, bevor sie Mitarbeitern zur Nutzung freigegeben werden. Die Haftungsrisiken sind erheblich, falls ein Gerät seinen Träger in eine Problemsituation führt. Organisationen sollten klare Richtlinien etablieren, welche intelligenten Geräte im Betrieb erlaubt sind und wie mit den dabei anfallenden Daten umzugehen ist.
