Microsoft revela filtres de contingut Xbox per aturar els juraments i la toxicitat
El filtratge basat en text primer, però els filtres de veu estan en camí
Microsoft comença a provar nous filtres de contingut per al seu sistema de missatgeria Xbox Live avui en un esforç per contrarestar la toxicitat a la seva plataforma. Microsoft gestiona la moderació a Xbox Live durant gairebé 20 anys, incloent la possibilitat d’informar de missatges, Gamertags, fotos i molt més, però aquest nou esforç situa el jugador en el control del que veurà a Xbox Live. Al principi, Microsoft desplega filtres basats en text per a missatges a Xbox Live, però la companyia té un objectiu molt més ampli de poder filtrar les sessions de festa de Xbox Live en el futur, de manera que les trucades d’àudio en directe es podrien filtrar amb pips en temps real. similar a la televisió emesa.
Hi hauràquatre nous nivells de filtració basada en textdisponible per als usuaris de Xbox Live inicialment: amable, mitjà, madur i sense filtrar. Com us podeu imaginar, Friendly és l’opció més adequada per a nens, dissenyada per filtrar tots els missatges potencialment ofensius. A l’extrem oposat, hi ha Unfiltered, que funcionarà ja que la missatgeria de Xbox Live funciona principalment avui.
El context dels missatges és clau
Els missatges filtrats apareixeran amb un avís de missatge ocult potencialment ofensiu i, si utilitzeu un compte Xbox Live per a adults, podreu fer clic per veure el contingut i informar-ne mitjançant les eines habituals, si cal. Els comptes secundaris es col·locaran al nivell Amistós de manera predeterminada i, de manera predeterminada, se'ls bloquejarà la possibilitat de veure missatges potencialment ofensius. Els pares podran gestionar els nivells mitjançant la configuració familiar de Microsoft i el filtratge funcionarà a Xbox One, Xbox Game Bar i les aplicacions Xbox per a Windows 10, iOS i Android.
Per a Microsoft, no es tracta només de filtrar les coses dolentes que la gent us pugui enviar mentre esteu reproduint les últimes novetatsCall of Dutytítol. Va molt més a fons. Es veuen històries de jugadors afroamericans cridats a linxar en sessions multijugador, o de dones jugadores en entorns competitius que s’anomenen tota mena de noms i se senten assetjades al món exterior o que els membres de la nostra comunitat LGBTQ senten que no poden parlar la seva veu a Xbox Live per por que els cridin, explica Dave McCarthy, cap de les operacions Xbox de Microsoft, en una entrevista ambThe Verge. Si realment volem fer realitat el nostre potencial com a indústria i fer arribar aquest meravellós mitjà a tothom, no hi ha lloc per a això.
McCarthy i el seu equip han estat estudiant diverses maneres d’identificar el context dels missatges mitjançant una combinació d’intel·ligència artificial i filtratge. El context és realment complicat en l’espai de joc, admet McCarthy. Una cosa és dir que anireu a fer un cop de mort quan us prepareu per a una missió multijugadorHola, i és un altre quan es pronuncia en un altre entorn. Trobar maneres d’entendre el context i els matisos és una batalla sense fi.
siri spotify
Vaig passar part de la meva reunió amb McCarthy i el seu equip en un dels moments més estranys de la meva carrera: bombardejar un compte de Xbox Live amb missatges grollers en un intent de superar els filtres. Vaig provar algunes de les maneres bàsiques de moure els filtres de text típics mitjançant la manipulació de paraules jurades amb accents o símbols, i Microsoft els va atrapar. Fins i tot els missatges basats en el context sobre l'assassinat d'onades de zombis es van recollir correctament. No vaig tenir prou temps per provar completament el sistema, però res no és infal·lible i Internet es pot adaptar ràpidament per crear frases i memes ofensius que ataquin determinades comunitats. Microsoft va demostrar com podia agafar una frase concreta i afegir-la instantàniament al sistema de filtratge de l’empresa, tot i que algú encara hauria de marcar aquesta paraula en primer lloc.
Ara Microsoft intenta ser més obert i transparent sobre com modera Xbox Live i les opcions que pren per fer complir aquests filtres a tota la comunitat. Si demanarem als nostres usuaris que facin comptes de les seves accions a Xbox Live i dels nostres altres serveis, hem de ser transparents sobre el nostre sistema de valors, les nostres pràctiques i per què fem el que fem, explica McCarthy. Recentment hem tingut èxit en fer coses com ara proporcionar proves i tornar a assenyalar la gent cap als nostres nous estàndards de la comunitat de Xbox Live, com a part del nostre esforç de transparència sobre les investigacions que fem.
Actualment, els usuaris de Xbox Live poden aprofundir en els de l’empresalloc web d'aplicacióper trobar, en última instància, consells sobre quin missatge concret va causar problemes al seu compte. Però no és el mateix que ressaltar el mal comportament en un missatge al responsable del compte. Microsoft està considerant alguns canvis en la forma en què es notifica als propietaris de Xbox Live quan infringeixen les regles, però la companyia també mira molt més enllà dels missatges basats en text.
Microsoft també vol fer front al repte de la toxicitat del xat de veu a Xbox Live. Es pot produir molta conducta tòxica i assetjament quan es convida algú a un xat de festa de Xbox Live. Microsoft Research ja ha desenvolupat funcions de parla a text per traduir àudio en temps real, i la divisió Xbox està pensant en utilitzar-ho.
El que hem començat a experimentar és 'Ei, si traduïm en temps real la veu a text i tenim aquestes funcions de filtratge de text, què podem fer en termes de bloqueig de possibles comunicacions en un entorn de veu?' explica McCarthy. Allà són els primers dies i hi ha una infinitat d’altres tecnologies d’intel·ligència artificial i tecnologia que volem apilar al voltant del problema de la veu, com ara la detecció d’emocions i la detecció de context, que podem aplicar-hi. Crec que estem aprenent en general ... ens dediquem el nostre temps a fer-ho bé.
Els xats d'àudio es podrien filtrar amb pistes com la TVAixò és òbviament molt complex, tant pel que fa a la tecnologia per aconseguir-ho com pels aspectes relacionats amb la privadesa, però l’objectiu de Microsoft és tenir alguna cosa similar al filtratge que les emissores de televisió poden aconseguir en les emissions en directe.
Un objectiu final podria ser similar al que s’esperava a la televisió emesa on la gent manté una conversa i, en temps real, podem detectar una fase dolenta i emetre-la per als usuaris que no vulguin veure-ho. , explica Rob Smith, un gestor de programes de l'equip d'enginyeria de Xbox Live. És un gran objectiu, però haurem de fer passos cap a això. Microsoft també haurà de tenir en compte qualsevol latència potencial a l’hora d’analitzar mostres de veu en temps real, ja que la majoria dels xats de partit s’utilitzen per coordinar els moviments del joc.
Sembla que abans de qualsevol filtratge d'àudio automatitzat, Microsoft està analitzant el discurs del xat de festa per detectar la toxicitat. Mentrestant, podríem fer coses com analitzar el discurs d’una persona i esbrinar, en general, quin és el seu nivell de toxicitat que utilitzen en aquesta sessió? I potser fer coses com silenciar-les automàticament, revela Smith.
com paga youtube
Microsoft està realitzant diverses proves internes per esbrinar què funcionarà millor i consultar la seva comunitat Xbox Live per implementar els seus plans de xat de festa. És un pla ambiciós, però Microsoft haurà de ser molt acurat en com analitza aquest àudio, ja que les implicacions de la privadesa són enormes. Al final del dia, hem de respectar els requisits de privadesa dels nostres usuaris, de manera que hi intervenirem de manera reflexiva i la transparència serà el nostre principi rector per fer-nos el correcte per als nostres jugadors, diu McCarthy.
Microsoft també podria trobar-se en un debat sobre la llibertat d'expressió amb aquests filtres, tot i que el Tribunal Supremva afirmar a principis d'aquest anyque els drets de la Primera Esmena no s’apliquen a plataformes privades com Xbox Live. Microsoft té clar quines són les seves intencions aquí i què espera d’una comunitat que en última instància controla.
Xbox Live no és una plataforma de lliure expressió. És una comunitat seleccionada on volem que tingueu alguns graus de llibertat personal en aquest sentit, i per això estem fent quatre configuracions diferents per començar aquí, explica McCarthy. Però no volem ser ambigus sobre el que defensem. Aquest ha de ser un lloc on tothom es diverteixi i tot el que fem en funció de les funcions i de la moderació serà pràctic a través d’aquest conjunt de valors.
