Twitter wendet dies Bug-Bounty-Modell uff maschinelles Lernen an. Die Microblogging-Site hat den branchenweit ersten algorithmischen Bias-Bounty-Wetteifer ins vorhanden gerufen. Die Preisgabe wurde geschaffen, um potenzielle Schäden im berüchtigten Bildbeschneidungsalgorithmus von Twitter zu identifizieren, welcher in einem bestimmten Ausmaß aufgegeben wurde, nachher er geschlechts- und rassenbasierte Vorurteile gezeigt hatte. Das Fertigungsanlage will neuartig Anreize unter die Community setzen, um übrige in… identifizierte Risiken des Algorithmus zu finden. Die Gewinner welcher Challenge aufheben Geldpreise vonseiten erst wenn zu 3.500 USD. Der Wettstreit ist ein Neuheit im Division der KI-Vorurteile, nichtsdestoweniger Kopfgeldprogramme demonstrieren eine lange Posse in dieser IT-Sicherheit. Jutta Williams, Produktmanagerin zwischen Twitter META (Machine Learning Ethics, Transparency, and Accountability), sagte gegenüber TNW, dass die Tat davon ermutigt wurde, wie Forschungs- überdies Hacker-Communitys dem Sicherheitsbereich helfen: Twitter wurde von jeher von den Menschen geprägt, die es der bevorzugte Lösungsweg nutzen darüber hinaus kennen. Daher möchten unsereins eine ähnliche Gemeinschaft aufbauen, die gegenseitig auf die ML-Sittenlehre konzentriert, um uns im Gange zu helfen, ein breiteres Skala seitens Problemen zu identifizieren, als unsereiner es für sich könnten. Mit dieser Problem ausbitten unsereiner für Twitter noch dazu in welcher Gewerbe zusammenführen Präzedenzfall im Zusammenhang die proaktive und kollektive Ausweisung von Seiten algorithmischen Schäden schaffen. Die Gemeinschaft anzapfen Die Handlung ist non… dies erste Mal, vorausgesetzt Twitter Community-Unterstützung im Rahmen die Regression algorithmischer Schäden sucht. Im Wonnemonat teilte dasjenige META-Team seine Forschung darüber hinaus seinen Identifizierungszeichen zu den Verzerrungen des Bildbeschneidungsalgorithmus, damit sonstige dasjenige Problem erforschen konnten. Der Zuschneidealgorithmus schätzt, welches die Menschen zuerst in einem Portrait erblicken möchten. Diese Berechnung energisch diesfalls, gleich ein Gemälde hinauf eine wie geschmiert sichtbare Größe entsprechend den Wünschen hergerichtet wird. Das Modell wurde auf Unterlagen welcher menschlichen Blickverfolgung trainiert, um eine Auffälligkeitsbewertung wohnhaft bei die Gesamtheit Bereiche eines Bildes vorherzusagen. Es wählt hierbei den Punkt per der höchsten Spielstand als Brennpunkt des Ausschnitts. Nachdem Twitter Feedback behalten hatte, dass welcher Algorithmus in… allen Volk fair wurde, analysierte Twitter das Konzept gen Verzerrungen. Die Forscher deckten zugrunde liegende Probleme hinaus, die weiße Volk auf der anderen Seite Schwarzen bevorzugten. „Wir wünschen selbige Arbeitsverhältnis noch einen Schritt weiter gehen, indem unsereins die Gemeinschaft einladen darüber hinaus Anreize setzen, potenzielle Schäden dieses Algorithmus zu identifizieren, die qua dasjenige hinausgehen, welches unsereiner selbst identifiziert innehaben“, sagte Rumman Chowdhury, der Entscheider des META-Teams seitens Twitter, vis-a-vis TNW. In dieser Challenge asservieren die Teilnehmer Einblick auf dies Salienzmodell vonseiten Twitter und den Source, welcher zum Generieren eines Bildausschnitts verwendet wird. Ihre Botschaft ist es, potenzielle Schäden aufzuzeigen, die ein solcher Algorithmus verursachen kann.