Bernat Guillén: “Treballem perquè els infantis puguin navegar per internet sense patir per la seva seguretat”

8 vistas

Bernat Guillén Pegueroles (Barcelona, 1989) és ex-alumne de l’escola El Pilar. Està graduat en Enginyeria Major de Telecomunicacions i Matemàtiques Aplicades a la UPC. Ha fet un doctorat a la Universitat de Princeton (USA) i actualment treballa a Google Trust and Safety com a data scientist en temes de seguretat infantil, protecció de pornografia al cercador i antifrau.

Què has estudiat per aconseguir la feina que tens ara?

A la carrera vaig estudiar matemàtiques i telecomunicacions, centrant-me en temes de protocols a la xarxa. El doctorat el vaig fer en matemàtiques, en particular dissenyant algoritmes eficients per recuperar informació quan tenim poques dades, i modelant efectes com la radicalització i polarització quan es creen grups que pressionen als individus.

Quina és la teva feina actual? En què consisteix exactament?

Sóc Data Scientist a Google, Trust & Safety. La meva feina és fer servir eines matemàtiques, estadístiques i computacionals per ajudar els diversos productes dins de Google a garantir la seguretat dels usuaris i mantenir la confiança dels usuaris en Google. Per exemple, el meu
equip ajuda a quantificar (i protegir) quantes persones han patit un robatori del seu compte de Google, quantes transaccions fraudulentes hi ha hagut, quanta gent està sent víctima d’assetjament o odi a les xarxes, quins anuncis són falsos, etc. Les tasques en particular són molt diverses, però sempre ens hi apropem des d’un punt de vista d’anàlisi estadístic de les dades.

Aquest tipus d’eines (estadística, matemàtiques, etc.) són necessàries perquè és impossible tenir analistes més tradicionals que puguin observar-ho tot. Per fer-vos una idea, cada minut es pugen 500 hores de contingut a YouTube, constantment. Es fan mil milions de transaccions
online amb tarja de crèdit al dia. Google presenta trenta mil milions d’anuncis cada dia als seus usuaris.

És impossible tenir gent vigilant que cadascun d’aquests anuncis (i els que no s’arriben a servir) compleixen la llei, que cap d’aquestes transaccions no siguin amb una tarja robada, que cap d’aquestes hores no contingui contingut altament violent, etc. Per tant, es necessiten models matemàtics, estadístics i computacionals que, o bé prenguin decisions de manera automàtica (i llavors hem de saber com de segurs estem que hem pres la decisió correcta! Imagineu que anem tancant comptes a l’atzar), o bé prioritzin casos per la persona que pren la decisió final per a què no hagi de mirar mil milions de transaccions cada dia. La feina que fem els meus companys i jo consisteix en fer aquests processos tan precisos i acurats com sigui possible, i garantir que estan dins d’uns estàndards de qualitat que tant Google com els governs de tot el món demanen.

Voldria deixar clar que tot el que escric aquí és la meva opinió personal i en cap moment parlo en representació de les opinions de Google o de ningú més que jo.

Per què penses que hem de vetllar per la seguretat dels infants quan naveguen per la xarxa?

Només com a clarificació, “seguretat infantil” en el meu cas es refereix més aviat a aturar adults que busquen infants per abusar a les xarxes, no tant temes com control parental o Youtube kids. Hi ha moltes raons per les quals és important la seguretat dels a la xarxa.

  • D’una banda tenim la raó purament econòmica: Els infants normalment són objectiu d’operacions fraudulentes. Per exemple, anuncis que no semblen anuncis, o jocs del mòbil que et fan pagar per seguir jugant… Si un infant està fent servir el mòbil de la persona que se’n cuida, i aquesta persona té malament configurades les dades de pagament, pot perdre molts diners sense adonar-se’n. Aquest, on un anunci deia “alexa, compra una casa de nines”, és un exemple que no té a veure amb infants, però és divertit i exemplifica els riscos de poder comprar sense autenticació extra.
  • D’altra banda tenim temes de contingut adult. Per exemple, durant un temps hi havia casos de gent que feia vídeos que semblaven de la Peppa Pig al principi però derivaven en vídeos molt gràfics de violència o contingut altament sexual. Per començar l’infant no ha demanat ni consentit veure aquest contingut, així que deixant de banda consideracions morals sobre el que hauria de veure o deixar de veure, em sembla clar que s’ha de bloquejar aquest contingut.
  • També hi ha temes que potser són menys evidents però molt importants: temes educatius i de justícia. Per exemple, com afecta a un infant que cada vegada que busqui imatges d’informàtica a Google Imatges, li surtin només programadors que són homes blancs? Com afecta a un infant que si busca “gitano” a Google li surtin els resultats fòrums on s’insulta i es menysprea al poble gitano (quan dic gitano, podria dir gay, lesbiana, magrebí, refugiat, negre, trans…)? Si teniu deu anys i, al buscar informació sobre la Segona Guerra Mundial, els resultats que us surten al Top 5 neguen l’existència de l’Holocaust, com sabeu que l’Holocaust va passar de veritat? Tot això són exemples hipotètics però segur que en podeu pensar d’altres i experimentar amb quin tipus de resultats us surten quan cerqueu a Google.

Òbviament és impossible esperar que Google (o ningú) sigui capaç de controlar tot això i tot el que la gent buscarà o farà online, i per això jo crec que al final gran part de la responsabilitat és de les educadores i educadors per ajudar a tothom a fer un ús assenyat i curós de les xarxes. Però si podem fer més fàcil per als infants (i per tothom) que puguin navegar sense haver de patir per si es trobaran un depredador, o contingut altament violent, o fals, o fraudulent… crec que és el nostre deure treballar-hi.

Hi ha molt de frau a Internet? Com ens podem protegir?

Moltíssim. Això no vol dir que hàgiu d’estar sempre patint: d’una banda tot i que hi ha molt frau, en proporció amb el comportament correcte és prou baix. D’altra banda, no a tot arreu us trobareu frau, i la majoria de resultats que surten al cercador de Google haurien de ser segurs.
Per protegir-vos, primer de tot heu de pensar que no hi ha una cosa que pugueu fer i dir “ah, ja no m’he de preocupar per res”. És un procés constant d’anar veient quines febleses teniu en els vostres comportaments, i quin és el vostre risc. Per exemple, no és el mateix risc si sou càrrec d’una empresa, un càrrec polític, una activista, un influencer… els vostres riscos seran diferents i per tant el que heu de fer és diferent. Això dit, hi ha generalment algunes coses que tothom pot fer per millorar la seva seguretat:

  • Activeu autenticació per duplicat, o bé amb un google authenticator, o bé amb un missatge al mòbil, o bé amb una clau física. D’aquesta manera si algú intenta entrar al vostre compte haurà d’accedir simultàniament al duplicat. Especialment recomanat a Amazon, Steam, o qualsevol compte on hi tingueu dades de pagament.
  • Tots els navegadors o gairebé tots tenen al costat de la URL un candauet o un símbol similar que us indica si els certificats de la pàgina web on esteu són vàlids. Aquests certificats els dóna un grup extern de confiança i s’han de renovar anualment (més o menys). Si aneu a una pàgina que no té certificat vàlid, sospiteu.
  • Sempre que aneu a una pàgina que us demana credencials de qualsevol tipus, mireu que sigui https:// i no http:// . eff.org té disponibles extensions de navegador que vigila que sigui així, així com altres recursos per millorar la vostra seguretat i privacitat.
  • Feu servir contrasenyes diferents per productes diferents, sobretot si són productes on heu fet alguna transacció. Millor encara si són contrasenyes aleatòries, i feu servir un gestor de contrasenyes enlloc de recordar-les o escriure-les en paper. Les contrasenyes que vulgueu recordar, personalment crec que és millor si són combinacions de paraules, per exemple “girafa-verd-pujar-23” crec que és una contrasenya força segura i fàcil de recordar.

Tot això són recomanacions tècniques, però també som vulnerables amb la informació que fem pública. Per més informació sobre això podeu llegir sobre OSINT i OPSEC.

  • Aneu amb compte amb els “challenges” de Twitter, Tik Tok, etc. on heu de respondre preguntes personals, ja que potser individualment no són perillosos però si algú va recopilant aquesta informació pot esbrinar respostes a les vostres preguntes de seguretat, o fer-ho servir per, per exemple trucar-vos, sabent dades vostres personals, i fent-se passar per un operador de banc. Si sospiteu d’algú, sempre podeu crear una identitat falsa i veure si comenceu a rebre missatges sospitosos dirigits a aquella identitat.
  • Fotos, vídeos, comentaris de xarxes socials, fòrums, etc. Tingueu sempre en ment “si jo no em conegués a mi mateix(a), què podria esbrinar amb 30 minuts de creuar informació? Amb 1 hora? Amb 1 dia?” Us sorprendrà la quantitat d’informació que doneu. He vist molta gent compartint fotos de les seves vacances quan són a fora de casa que han estat objectiu d’estafadors i lladres tant al lloc on són de vacances com al lloc on viuen. Això no és per posar por al cos, evidentment les xarxes socials tenen molta part positiva, però una mica d’higiene sempre va bé (eliminar comptes que no feu servir, eliminar fotos i videos de fa més d’1 mes, pujar fotos amb cert retard i sense metadades, etc.). Especialment si sou activistes o potencialment víctimes de doxxing (per exemple si treballeu amb associacions d’immigrants indocumentats o sou LGBTQ), aneu amb compte.

Com veieu tot depèn del vostre perfil. Si fossiu activistes en un règim sense protecció de dades, per exemple, no n’hi ha prou amb no posar fotos vostres on-line ja que el govern tindria les vostres dades igualment. Si sou càrrecs polítics, hauríeu de preocupar-vos també de sempre
encriptar els vostres arxius. El mateix passa amb el frau. No és el mateix que us estafi un individu que està trastejant amb quatre scripts, a que us estafi una empresa consolidada a eBay amb centenars de treballadors.

Et vas imaginar que arribaries fins aquí?

No, la veritat quan tenia 10-15 anys el més semblant a una xarxa social que existia era el MSN Messenger i ningú s’imaginava fins a quina escala arribaria tot aquest entramat d’abús online. El “hacking” sí que sempre m’havia agradat i buscar maneres en que les coses podien espatllar-se i com arreglar-les… En certa manera aquesta feina és similar, però des d’un punt de vista molt diferent.

De nen i adolescent tenies clar que et volies dedicar a això?

De nou, no. Sí que sempre m’han agradat molt els ordinadors i les matemàtiques, i sempre he volgut tenir la sensació que el que faig ajuda d’alguna manera a fer el món un lloc millor. Ara per ara aquesta posició on estic és la millor manera d’aconseguir-ho, però qui sap en un futur!
Un altre camp que sempre m’ha interessat és la bioinformàtica i medicina, en particular wearables, implants, pròtesis…

Com ha afectat la pandèmia la teva feina?

Duc des de principis de març de 2020 treballant des de casa 100%, i segurament seguiré així un bon temps. A més a més, com tothom treballa des de casa, els criminals i abusadors també, així que tinc més feina! Afegiu a això les eleccions a EUA i tot el que implica això a nivell d’abús online i us podeu anar fent una idea. Ah, i treballo amb gent a Singapur i a San Francisco, així que reunions ben d’hora i ben tard. La part bona de treballar a casa és que puc trobar més hores seguides per ser productiu, però les reunions preferiria tenir-les a la oficina per poder dir
“no, a aquesta hora no hi soc”.

On et va ser més difícil estudiar? A Catalunya o als Estats Units? Hi ha moltes diferències?

És difícil de comparar ja que el doctorat i la carrera són molt diferents. A la carrera tenia moltes assignatures diferents i algunes m’interessaven més que altres i amb alguns professors tenia millor tracte que altres. Al doctorat van ser 5 anys treballant principalment amb la mateixa gent i a més gent que ja ens havíem trobat perquè ens agradàvem mútuament.
Vaig fer algunes assignatures a Princeton i he de dir que personalment em van semblar més didàctiques que a Catalunya perquè el model era menys “magistral” i més “participatiu”, però clar, jo vaig fer la carrera amb el pla educatiu anterior i no sabria dir com és ara a Catalunya.
Una altra cosa que em va agradar de Princeton és que a la carrera tothom feia assignatures d’història, biologia, física, matemàtiques… durant el primer any o dos (però adaptades al títol que cadascú es vol treure). A vosaltres us sonarà malament però imagineu que feu la carrera de periodisme però us agafeu una classe o dues de biologia marina perquè sempre us ha interessat. Per mi això dona una llibertat que jo no vaig tenir a la meva carrera.

Potser la diferència més gran que vaig notar és que els estudiants a Estats Units tenen més sentiment de pertinença a la universitat. Per exemple, a la UPC no sé si vaig conèixer mai a ningú del govern d’estudiants, i fora de l’organització de festes no tenia la sensació que els estudiants poguéssim canviar gran cosa (hi havia el sindicat d’estudiants, però era fora de l’estructura universitària). A Princeton vaig acabar sent vicepresident del govern d’estudiants de doctorat, vam organitzar trucades al senat d’EUA per protestar contra lleis d’impostos, i vam fer activisme per ajudar a l’alliberament de Xiyue Wang d’una presó de l’Iran!

Creus que tots aquests anys d’estudis han valgut la pena?

Primer de tot, jo no considero el meu doctorat com estudis. Vaig estar donant classes, fent recerca, participant a conferències, publicant… Per mi va ser un gran privilegi tenir 5 anys on vaig poder investigar els temes que a mi m’interessaven, sense haver-me de preocupar si els resultats donaven benefici econòmic a ningú! A més, vaig poder treballar amb grans investigadors i persones i en guardo grans records. Respecte als estudis en general, doncs hauríem de definir què vol dir “valer la pena”.

Personalment sempre he buscat mantenir obertes tantes portes com sigui possible, tenir sempre opcions i alternatives, i si una cosa no funciona, saber que puc buscar-ne una altra. En això crec que els estudis m’han ajudat. A més, aprendre com funcionen les estructures matemàtiques i les xarxes d’ordinadors a mi m’interessava, en aquell moment l’única manera real d’aprendre això era anant a la universitat i rebia dos títols oficials així que la decisió va ser bastant clara. A nivell econòmic és impossible de saber què hauria passat si no hagués pres aquestes decisions. I a nivell personal, he de dir que potser he trobat a faltar aprofitar més les oportunitats que vaig tenir de desenvolupament i expressió creatius (escriure, fer música,
ballar…). Per sort, encara tinc temps.

Quin record tens de l’escola El Pilar?

Jo hi vaig ser des dels 4 anys fins als 16 així que en tinc uns quants, de records. Alguns no tan bons, de joves que potser no teníem gaire seny i adults que a vegades no sabien què més fer amb nosaltres, però la gran majoria molt bons. Per exemple, quan anava a la biblioteca de l’escola, la Roser sempre em donava un bon llibre per llegir. Recordo que vam fer un rellotge de fusta a classe de tecnologia amb el Carles, que el vam portar a una expo a Mataró. Recordo la mania que li tenia a la rua de Carnestoltes i que m’intentava escapar del ball… La cir-cun-fe-ren-cia de la Conchita, els poemes del Diego, les classes amb el Xavi, l’Òscar, l’Eli, l’Alhagie, molts altres professors que ara em deixo. I el que més recordo és el grup d’amics que, uns quants, segueixen sent-ho ara (un d’ells padrí de la meva boda!)

Què aconsellaries als estudiants de Secundària?

Uf, el món està canviant tan ràpid que no sé si tinc cap consell pràctic que us pugui ser útil, així que diré unes quantes banalitats i em quedaré ben ample. Personalment no m’ha anat malament la mentalitat de sempre intentar tenir portes obertes a nivell professional. Això inclou aprendre anglès per començar, ja que avui en dia la majoria de respostes les trobareu en fòrums de parla anglesa (o xinesa si teniu la sort d’entendre xinès). Tenir portes obertes no vol dir anar de puntetes per la vida, i si preneu una decisió que sigui perquè hi creieu i no només perquè esteu seguint el camí marcat per una altra persona. Si us interessa un tema aprofiteu i investigueu més i no perdeu la curiositat. Trobeu grups de gent amb interessos compartits per fer coses juntes, però també busqueu gent amb opinions diferents a la vostra per poder veure altres punts de vista (dins sempre del respecte bàsic pels drets humans i la vostra seguretat física i mental, és clar).

Crec que hi ha un desencant general, i entre pandèmies i crisis econòmiques, morals i socials sembla que el cinisme i el desencant és la única manera d’afrontar el món. Jo no sé si això és més una súplica que un consell, però us demano que no caigueu en aquest parany.

Maria Hidalgo i Carla Peña

El más reciente de Blog