Pokretanje danas: nova kolaborativna studija umanjivanja zlostavljanja na Twitteru

S više metoda, zloupotreba putem interneta može se umanjiti - ako također otkrijemo koje metode zapravo djeluju u kojim situacijama.

autor: Susan Benesch i J. Nathan Matias

Internetska zloupotreba postala je toliko raširena i raširena da predstavlja ozbiljan izazov javnoj dobrobiti diljem svijeta. Kao i drugi složeni socijalni problemi, zahtijeva i strogo, višestruko traženje rješenja. To se ne može riješiti samo pokušajem brisanja svih štetnih sadržaja na mreži (čak i ako je to tehnički moguće postići) jer čak i takve drakonske politike ne bi spriječile da veći sadržaj nanese štetu. To je poput prisjećanja na nesigurnu hranu bez sprečavanja kontaminacije i prodaje nove hrane - ili vuče srušenih automobila bez pokušaja da novi automobili budu sigurniji. Zlouporabu se ne može riješiti nijednom jedinom metodom jer je objavljena u toliko oblika, od strane različitih ljudi i iz više razloga.

S više metoda, zloupotreba putem interneta može se umanjiti - ako također otkrijemo koje metode zapravo djeluju u kojim situacijama. U 35-ogodišnjoj povijesti interneta proletjelo je nekoliko obećavajućih ideja, ali većina ih nikada nije sustavno testirana. Zbog nedostatka dokaza, tehnološke tvrtke mogu biti ustrajne u praksi koje pogoršavaju zloupotrebu i mogu zanemariti jednostavne ideje koje bi mogle pomoći milijunima ljudi.

Istraživanje je pokazalo da kad institucije jasno objave pravila, veća je vjerojatnost da ih ljudi slijede.

Danas će Twitter započeti testiranje takve ideje: da će prikazivanje pravila internetske platforme korisnicima poboljšati ponašanje na toj platformi. Socijalne norme, koje su vjerovanje ljudi o tome što institucije i drugi ljudi smatraju prihvatljivim ponašanjem, snažno utječu na to što ljudi rade, a što ne rade. Istraživanje je pokazalo da kad institucije jasno objave pravila, veća je vjerojatnost da ih ljudi slijede. Također imamo rane dokaze iz Nathanovog istraživanja s zajednicama reddit-a da uvođenjem vidljivih politika može poboljšati internetsko ponašanje. U eksperimentu koji započinje danas, Twitter objavljuje svoja pravila kako bi testirao poboljšava li uljudnost.

Tu smo ideju predložili Twitteru i osmislili eksperiment kako bismo je procijenili. Ovaj projekt također potiče otvoreni, utemeljen na dokazima, pristup poboljšanju iskustva ljudi na mreži, a istovremeno štiti njihovu privatnost. Istraživači iz industrije i sveučilišta ranije su surađivali. Ono što čini ovaj napor jedinstvenim jest to što smo ga odlučili provesti kao otvorenu suradnju pod nizom pravnih, etičkih i znanstvenih ograničenja. To će zaštititi korisnike Twittera, zaštititi vjerodostojnost našeg rada i osigurati da će znanje dobiveno od njega biti dostupno svima, pa čak i ostalim internetskim tvrtkama.

Ovaj projekt također potiče otvoreni, utemeljen na dokazima, pristup poboljšanju iskustva ljudi na mreži, a istovremeno štiti njihovu privatnost.

Nadamo se da će ovaj projekt pružiti praktično znanje o sprječavanju zlostavljanja na mreži i da će naš postupak potaknuti daljnja transparentna, neovisna ocjenjivanja mnogih drugih ideja za smanjenje zlostavljanja na mreži.

Istraživački proces

Dok testiramo ideje za sprečavanje zlostavljanja, naš istraživački tim također testira postupak za neovisno, vanjsko vrednovanje politike i dizajnerskih intervencija koje tehnološke tvrtke poduzimaju. Evo kako to funkcionira.

nezavisnost

Naša neovisnost od Twittera osnova je ovog procesa. Mi smo akademski istraživači, ne radimo za Twitter i nismo ni tražili ni dobili novac od Twittera za ovaj projekt. Postavili smo dva uvjeta za provođenje projekta u suradnji s tvrtkom: da dijeli informacije koje su nam potrebne za analizu rezultata, te da zadržavamo slobodu objavljivanja rezultata u recenziranom akademskom časopisu. Pregovarali smo i potpisali pravne sporazume u kojima je Twitter pristao na ove uvjete i dogovorili smo se zaštititi poslovne tajne o tehničkim pitanjima koja nisu povezana s našim glavnim pitanjima.

Privatnost korisnika

Da bismo zaštitili privatnost, tvrtka će nam dati samo anonimne, skupljene podatke. Budući da nećemo dobiti identifikacijske podatke o bilo kojoj pojedinačnoj osobi ili Twitter računu, ne možemo i nećemo spomenuti nikoga ili njihove tvitere u našim publikacijama.

Privatnost je središnja u našem procesu, koja stoga ograničava podatke s kojima radimo, štiti podatke dok radimo analize i ograničava našu upotrebu bilo kojih podataka u ovoj studiji. Studiju smo osmislili putem Twittera na način koji nam omogućava da procijenimo eksperiment bez da moramo znati imena ili druge osobne podatke bilo kojeg računa. Kada studija završi, Twitter će pripremiti agregirani skup podataka za našu analizu. Podaci s Twittera ostat će na našem šifriranom sustavu gdje ćemo provoditi našu analizu i nećemo dijeliti podatke izvan tog sustava. Nakon što potvrdimo integritet podataka koje dobivamo, slijedit ćemo dogovoreni plan za analizu rezultata. Obzirom da bi recenzija mogla potrajati, a budući da drugi istraživači mogu tražiti da dvostruko provjerimo detalje, zadržat ćemo podatke i sigurnosne kopije dvije godine nakon završetka studije, a zatim ih izbrisati.

Transparentnost i odgovornost

Da bismo bili što transparentniji, javno najavljujemo studiju prije nego što krene. Budući da ga ne možemo sada detaljno opisati bez ugrožavanja integriteta rezultata, pronašli smo dvije alternative. Prvo, cjelovit dizajn studija odobrila su dva sveučilišna etička povjerenstva (čiji je zadatak osigurati da istraživači poštuju pravila koja štite ljude na koje mogu utjecati istraživanje). Drugo, podnijeli smo naš plan analize - detaljan opis načina provođenja studije - s neutralnom trećom stranom koja se zove Open Science Framework. To osigurava da mi i Twitter možemo biti odgovorni za točno ono što radimo.

Ovakva praksa podnošenja plana s neutralnom trećom stranom naziva se predregistracija, a znači da smo detaljno opisali koje su bile naše hipoteze, tačno kako će Twitter provesti intervenciju, kakve ćemo ishode promatrati i koje statističke metode koristio bi za analizu rezultata - i sve prije nego što je studija započela. To osigurava da analizu radimo onako kako smo planirali prije nego što smo vidjeli rezultate, čak i ako ta analiza daje razočaravajuće nalaze. Predbilježba, najbolja praksa otvorenih znanosti, štiti vjerodostojnost istraživanja našeg tima i sudjelovanja na Twitteru. Prenijeli smo naš plan analize u Open Science Framework - neutralnu treću stranu. Kad studija završi i spremni smo objaviti svoje rezultate, objavićemo plan na OSF-u kako bi drugi mogli potvrditi da smo slijedili plan i, što je jednako važno, mogli ponoviti našu studiju.

Svoje ćemo otkriće učiniti dostupnima svima kako bi ga mogli slobodno koristiti. Naše će istraživanje podnijeti na akademski pregled i objaviti ga u akademskom časopisu.

Etika

Naš se proces također podudara sa standardnim sveučilišnim praksama za istraživačku etiku. Ovaj projekt pregledali su i odobrili svi naši etički odbori: MIT COUHES i REB Sveučilišta McGill, u koordinaciji s etičkim odborom na Sveučilištu u Bathu.

Prilikom dizajniranja ove studije, razmotrili smo zamoliti svaku osobu unaprijed unaprijed ili, alternativno, obavijestiti ljude nakon završetka studije da su one možda bile uključene. U ovom istraživanju traženje ljudi da se prijave mogu dovesti do pristranih nalaza. Obavijest o post-studiji putem Twittera također je bila nepraktična, jer Twitter neće moći doći do ljudi koji su napustili platformu, a naš istraživački tim neće moći nikoga kontaktirati, jer nećemo imati imena računa niti kontakt podatke , U takvim uvjetima, američka politika etičke politike zahtijeva eksperimente kako bi se zadovoljili standardi minimalnog rizika. Vjerujemo da poruke koje testiramo udovoljavaju ovom standardu, a MIT i McGill etički odbori odobrili su ovu studiju. Budući da je pitanje pristanka tako važno, neki iz našeg tima osmišljavaju nove načine kako koordinirati suglasnost i odgovornost velikih istraživanja. Ako imate pitanja o etičnosti ovog istraživanja, obratite se J. Nathan Matiasu na jnmatias@mit.edu.

Zahvale

Duboko smo zahvalni sjajnim kolegama koji su pomogli u ovom projektu. Lindsay Blackwell napisala je anketu o relevantnim istraživanjima iz društvenih znanosti, koja su usmjerila naše razmišljanje prilikom dizajniranja eksperimenta. Marc Brackett je također dao rano navođenje. Andrew Sellars iz klinike BU / MIT Technology & Cyberlaw pomogao je u izradi i pregovorima o sporazumima o suradnji. Također smo zahvalni mnogim ljudima na Twitteru koji su radili na omogućavanju ovog projekta.

O istraživačima

Ovaj projekt vode Susan Benesch i J. Nathan Matias. Novinari s pitanjima o projektu trebali bi nas kontaktirati na (susan@dangerousspeech.org i jnmatias@mit.edu).

Susan Benesch (@susanbenesch) fakultetska je suradnica Berkman Klein Centra za internet i društvo na Sveučilištu Harvard. Osnovala je i režirala projekt Opasni govor, koji proučava govor koji može nadahnuti nasilje - i načine za sprečavanje takve štete, ne narušavajući slobodu izražavanja. To uključuje opsežni rad na internetskoj komunikaciji, a projekt opasnog govora dio je Twitterovog Vijeća za povjerenje i sigurnost.

J. Nathan Matias (@natematias) je postdoktorski znanstveni suradnik na odjelima za psihologiju Sveučilišta Princeton, Centru za politiku informacijske tehnologije i sociologiji. Gostujući je stipendist Centra za civilne medije MIT Media Lab i utemeljitelj je tvrtke CivilServant, koja organizira znanost o ponašanju građana za pravedniji, sigurniji i razumljiviji internet. CivilServant izravno je surađivao sa zajednicama desetaka milijuna ljudi kako bi otkrio učinkovite ideje za poboljšanje internetskog života i procijenio utjecaj socijalnih tehnologija.

Derek Ruths izvanredni je profesor na školi računarskih znanosti na Sveučilištu McGill gdje vodi Network Dynamics Lab. U svom istraživanju, Derek proučava načine korištenja podataka za mjerenje i predviđanje ljudskog ponašanja velikih razmjera.

Adam Joinson (@joinson) je profesor informacijskog sustava na Sveučilištu u Bathu, gdje provodi istraživanje sjecišta tehnologije i ponašanja - uključujući rad na komunikacijskim obrascima, utjecaju, sigurnosti i privatnosti i kako dizajn može utjecati na ponašanje.