miércoles, abril 21, 2021
InicioMundoDentro de la creación de la Corte Suprema de Facebook

Dentro de la creación de la Corte Suprema de Facebook

Por: Kate Klonik k*

La compañía ha creado una junta que puede anular incluso a Mark Zuckerberg. Pronto decidirá si permitirá que Trump vuelva a Facebook.

Una mañana de mayo de 2019, cuarenta y tres abogados, académicos y expertos en medios se reunieron en el sótano sin ventanas del hotel NoMad New York para una reunión privada. La habitación estaba distribuida un poco como la boda de un técnico, con una etiqueta con el nombre y un iPad en cada asiento, y grandes suculentas como centros de mesa. También hubo regalos de fiesta: cuadernos y bolígrafos con la marca Facebook. La compañía había convocado al grupo para discutir la Junta de Supervisión, una especie de Tribunal Supremo privado que estaba creando para ayudar a gobernar el discurso en sus plataformas. Todos los participantes habían firmado acuerdos de no divulgación. Entré a escondidas tarde y me instalé cerca del frente. “Aplauda si puedes oírme”, dijo la moderadora, una mujer vestida con un mono negro.

Desde su fundación, en 2004, Facebook se había modelado como un refugio de libertad de expresión en Internet. Pero en los últimos años, a medida que las teorías de la conspiración, el discurso de odio y la desinformación se han extendido en la plataforma, los críticos se han preocupado de que la empresa represente un peligro para la democracia. Facebook prometió cambiar eso con la Junta de Supervisión: reuniría un consejo de asesores sabios (el grupo finalmente incluyó a activistas humanitarios, un ex primer ministro y un premio Nobel) que escucharían las apelaciones sobre qué tipo de discurso debería permitirse en el sitio. Sus decisiones serían vinculantes, anulando incluso las de Mark Zuckerberg, el fundador de la empresa. Zuckerberg dijo que había llegado a creer que un director ejecutivo no debería tener un control total sobre los límites de nuestro discurso político.

En 2019, Facebook acordó dejarme informar sobre el proceso y pasé dieciocho meses siguiendo su desarrollo. El mes pasado, la junta se pronunció sobre su primera lista de casos, que abordó, entre otros temas, la glorificación de los nazis y la desinformación sobre la pandemia de coronavirus. En los próximos meses, decidirá una cuestión aún mayor: si Donald Trump debería ser separado indefinidamente de sus millones de seguidores por su papel en la incitación a la insurrección en el Capitolio, el 6 de enero. Nathaniel Persily, profesor de derecho en Stanford, me dijo: «La forma en que la junta considere los problemas y actúe en ese caso tendrá implicaciones dramáticas para el futuro de la junta, y quizás para el discurso en línea en general».

Al principio, Facebook no tenía idea de cómo funcionaría el tablero. Para generar ideas, la empresa realizó talleres con expertos en Singapur, Nueva Delhi, Nairobi, Ciudad de México, Berlín y Nueva York. “Mi trabajo consistía en viajar por todo el mundo y obtener la mayor cantidad de comentarios posible”, me dijo Zoe Darmé, que supervisó el proceso de consulta. En el taller de Nueva York, en el sótano del hotel, los participantes se sentaron en mesas de ocho o nueve personas y realizaron simulaciones de casos. Me senté entre Jeff Jarvis, un profesor de periodismo, y Ben Ginsberg, un abogado republicano que representó a George W. Bush en Bush v. Gore.

Para nuestro primer caso, el moderador proyectó una imagen de una niña sonriente en una foto del anuario, con una burbuja de pensamiento de dibujos animados que decía «Matar a todos los hombres». Facebook había eliminado la publicación por violar sus reglas de incitación al odio, que prohíben los ataques basados ​​en «sexo, identidad de género». Para muchos, esto parecía simplista. “Es una broma”, dijo una mujer. «Tiene que haber una excepción para el humor». Las reglas de Facebook incluían una excepción de humor, para los casos en los que la intención del usuario era clara, pero era difícil discernir la motivación de esta persona, y a los asistentes les preocupaba que una separación amplia para los chistes pudiera fácilmente cubrir el discurso de odio. Carmen Scurato, que trabaja en Free Press, una organización de defensa de Internet, señaló la desventaja histórica de las mujeres y argumentó que las políticas de incitación al odio deben tener en cuenta la dinámica del poder. En el final,

Este tipo de turbia incertidumbre parecía inevitable. La junta tiene jurisdicción sobre todos los usuarios de Facebook en el mundo, pero las intuiciones sobre la libertad de expresión varían drásticamente entre las divisiones políticas y culturales. En Hong Kong, donde el movimiento prodemocraciaha utilizado las redes sociales para organizar protestas, los activistas confían en los principios de libre expresión de Facebook para protegerse contra el estado. En Myanmar, donde el discurso de odio ha contribuido a un genocidio contra los rohingya, los defensores han pedido una aplicación más estricta. Facebook había esperado, a través de los talleres, reunir las creencias sobre el habla, pero los resultados fueron más contradictorios de lo esperado. En Nueva York, por ejemplo, el sesenta por ciento de la gente votó a favor de restablecer el puesto de «Matar a todos los hombres», pero sólo el cuarenta por ciento lo hizo en Nairobi. En medio de otras teorías, Darmé especuló: “Donde los países están quizás más preocupados por la seguridad, porque viven en un área con menos estado de derecho y, por lo tanto, existe la posibilidad de que un grupo realmente intente matar a todos los hombres, hay menos preocupación por la libertad habla.» La explicación completa probablemente sea más compleja;

Algunos de los talleres se convirtieron en un caos. En Singapur, Nairobi y Nueva Delhi, algunos participantes se negaron a firmar los acuerdos de no divulgación, protestando por la falta de transparencia de Facebook; en Alemania, alguien se apoderó del micrófono y reprendió a la empresa por matar la democracia. “Tuvimos que aprender a ponernos nuestro chaleco antibalas”, dijo Darmé. En Nueva York, la sesión siguió siendo civilizada, pero apenas. Algunos participantes pensaron que la junta sería ineficaz. “Todo parecía destinado al fracaso”, me dijo Sarah T. Roberts, profesora de estudios de la información en UCLA. “Los escépticos pensarán que está capturado por el interés corporativo de Facebook. Otros pensarán que no es suficiente, es una pseudoinstitución «. Algunos predijeron que la junta llegaría a tener grandes ambiciones. Tim Wu, profesor de derecho en Columbia, dijo:

Se había instruido a los participantes para que usaran una aplicación llamada Slido para enviar preguntas para la discusión en grupo, que podrían votarse a favor o en contra en la agenda. Los resultados se proyectaron en una pantalla en la parte delantera de la sala. La aplicación había funcionado bien en el extranjero, pero en Nueva York se convirtió en un metacomentario sobre moderación de contenido. Preguntas sofisticadas sobre «herramientas automáticas para derribos» y el «principio de equidad con diversas comunidades» pronto fueron superadas por una broma sobre «Juego de tronos». Las publicaciones eran inicialmente anónimas, pero los usuarios rápidamente encontraron una forma de evitar el sistema; “Harold” escribió: “Descubrí cómo identificarme a mí mismo”, lo que provocó risas. El moderador gritó para recuperar el control de la sala. En medio del caos, alguien publicó, «¿Podemos abandonar Slido y hablar?», Que rápidamente acumuló me gusta.

La idea de que Facebook, como una república incipiente, necesitaría instituir reformas democráticas podría haber parecido una tontería hace una década. En 2009, poco después de que la compañía fuera criticada por cambiar silenciosamente sus términos de servicio para permitirle mantener los datos de los usuarios incluso después de que borraran sus cuentas, lanzó un video de Zuckerberg, vestido con una camisa abotonada poco característica y una corbata. anunciando un «nuevo enfoque para la gobernanza del sitio». La gente podría votar sobre las políticas de Facebook; la empresa lo llamó «un paso audaz hacia la transparencia». En el primer referéndum, sobre si cambiar las condiciones del servicio, solo votó el 0,32% de los usuarios. “A sus propios ojos, Facebook se ha convertido en algo más que un sitio web recreativo donde los usuarios comparten fotos y se desean un feliz cumpleaños”, dijo un columnista de Los Angeles Times.escribió. “Ahora es un cuerpo global de ciudadanos que debe estar unido y protegido bajo una constitución ratificada popularmente. Pero es difícil tener una democracia, una constitución o un gobierno si nadie se presenta ”. En 2012, el proyecto se cerró silenciosamente y, como sucedió con Crystal Pepsi, Google Wave y Microsoft Zune, nadie recuerda que existió.

Este era todavía un momento vagamente optimista para Facebook. La empresa prometió «dar a las personas el poder de compartir y hacer que el mundo sea más abierto y conectado». A medida que más usuarios se unían a las plataformas tecnológicas, las empresas establecieron reglas para desinfectar el contenido y mantener la experiencia agradable. Airbnb eliminó los anuncios de viviendas que mostraban banderas nazis; Kickstarter rechazó el crowdfunding para «alimentos y bebidas energéticos»; Etsy les dijo a los usuarios que fueran «útiles, constructivos y alentadores» al expresar críticas. Facebook contrató moderadores de contenido para filtrar la pornografía y la propaganda terrorista, entre otras cosas. Pero, debido a que se vio a sí mismo como una «plataforma neutral», tendió a no censurar el discurso político. Los peligros de este enfoque pronto se hicieron evidentes. Facebook tiene ahora unos tres mil millones de usuarios, más de un tercio de la humanidad, muchos de los cuales obtienen sus noticias del sitio. En 2016, usó la plataforma en un intento de influir en las elecciones presidenciales de Estados Unidos. Tres años después, un supremacista blanco en Nueva Zelanda transmitió en vivo un tiroteo masivo . Millones de personas se unieron a grupos y siguieron páginas relacionadas con QAnon , una teoría de la conspiración que sostiene que el mundo está controlado por una camarilla de demócratas pedófilos adoradores de Satanás. La Primera Enmienda ha dificultado que el gobierno de los Estados Unidos detenga la propagación de ideas tóxicas en línea. Alemania aprobó una ley que intenta frenar la difusión del discurso de odio, pero solo se puede hacer cumplir dentro de las fronteras del país. Como resultado, Facebook se ha visto obligado a tomar decisiones difíciles sobre el habla en gran parte por su cuenta.

Con el tiempo, la compañía ha desarrollado un conjunto de reglas y prácticas en la forma ad-hoc del derecho común, y los académicos han argumentado durante mucho tiempo que el sistema necesitaba más transparencia, responsabilidad y debido proceso. La idea de la Junta de Supervisión surgió de Noah Feldman, un profesor de cincuenta años de la Facultad de Derecho de Harvard, que escribió una biografía de James Madison y ayudó a redactar la constitución provisional iraquí. En 2018, Feldman se estaba quedando con su amiga de la universidad Sheryl Sandberg., directora de operaciones de Facebook, en su casa de Menlo Park, California. Un día, Feldman estaba montando una bicicleta en las colinas vecinas cuando, dijo, «de repente me di cuenta: Facebook necesita una Corte Suprema». Corrió a casa y escribió la idea, argumentando que las empresas de medios sociales deberían crear «sistemas cuasi legales» para sopesar cuestiones difíciles sobre la libertad de expresión. “Podrían citar opiniones judiciales de diferentes países”, escribió. «Es fácil imaginar que si hacen bien su trabajo, los tribunales reales eventualmente citarán las opiniones de Facebook y Google a cambio». Tal tribunal corporativo no tenía un equivalente moderno, pero Feldman señaló que la gente no tiene por qué preocuparse: «Vale la pena recordar que los propios sistemas legales nacionales evolucionaron a partir de tribunales más privados administrados por notables o autoridades religiosas». Le dio el memo a Sandberg, quien se lo mostró a Zuckerberg. Durante algunos años, Zuckerberg había estado pensando en establecer un “modelo legislativo” de moderación de contenido en el que los usuarios pudieran elegir representantes en Facebook, como miembros del Congreso. Un tribunal parecía un mejor primer paso.

En noviembre de 2018, Feldman hizo una breve presentación ante la junta corporativa de Facebook, por invitación de Zuckerberg. “No sentí que estuviera convenciendo a mi audiencia”, me dijo. Feldman recordó que algunos miembros sentían que un organismo así no mejoraría suficientemente la legitimidad de la empresa; a otros les preocupaba que pudiera tomar decisiones que contradecían los intereses comerciales de Facebook. A los pocos minutos, Zuckerberg defendió la propuesta. Señaló que una gran parte de su tiempo se dedicaba a deliberar sobre si debían eliminarse puestos individuales de alto perfil; ¿No serían mejores los expertos para tomar esas decisiones? La idea siguió siendo controvertida, pero la estructura corporativa de Facebook permite a Zuckerberg tomar decisiones unilaterales. Poco después, ordenó que comenzara el proyecto. “Estaba un poco aturdido”, me dijo Feldman. «Como, mierda santa,

Un día de junio de 2019, un Uber me dejó en el campus de Facebook, en un estacionamiento lleno de Teslas. Durante los últimos dos años, mientras trabajaba como profesor de derecho, había estado investigando cómo las empresas de tecnología gobiernan el discurso. Esa mañana, me dirigí al MPK 21, un edificio de quinientos mil pies cuadrados diseñado por Frank Gehry, con un jardín en la azotea habitado por zorros salvajes. (Los letreros desalientan la interacción con ellos). Las paredes están cubiertas de carteles gigantes con frases motivacionales como «Nada en Facebook es el problema de otra persona» y «La mejor manera de quejarse es hacer las cosas». Cuando visita, se registra en un quiosco de pantalla táctil y firma un acuerdo de no divulgación en el que se compromete a no divulgar nada de lo que vea. La empresa sabía que venía como reportera, pero la mujer del mostrador no sabía cómo imprimir un pase sin un acuerdo firmado; finalmente, otro empleado me entregó un cordón marcado como «NDA» y dijo: «Solo sabremos que no tiene uno».

Comencé siguiendo al Equipo de Iniciativas Estratégicas y de Gobierno de Facebook, que tenía la tarea de crear la junta. El grupo central estaba compuesto por una docena de empleados, en su mayoría en la treintena, que provenían de las Naciones Unidas, la Casa Blanca de Obama y el Departamento de Justicia, entre otros lugares. Fue dirigido por Brent Harris, un ex consultor de organizaciones sin fines de lucro que con frecuencia llegaba a nuestras reuniones comiendo una barra de granola. Los empleados dedicaron gran parte de su tiempo a redactar los estatutos de la junta, que algunos llamaron su «constitución», y sus estatutos, que algunos llamaron sus «reglas de la corte». Durante una reunión, utilizaron bolígrafos, rematados con una pluma, para evocar las plumas utilizadas por los Padres Fundadores.

El grupo era joven y altamente calificado, pero estaba rodeado de ejecutivos de tecnología que a veces participaban activamente. Los primeros borradores de la carta incluían mucho lenguaje legal seco y cuidadoso, pero en versiones posteriores se había eliminado parte de él. “Los comentarios provienen de personas de alto nivel en la empresa, que no son abogados”, me dijo Harris durante una reunión. Noté que alguien había cambiado todas las referencias a «usuarios» en la carta por «personas», lo que parecía implicar que la junta gobernaba no solo a los clientes de Facebook sino a todo el mundo. Harris intercambió miradas con otro empleado. “Los comentarios provienen de personas muy importantes en la empresa”, dijo. Más tarde supe por el equipo que Zuckerberg había estado editando la carta para hacerla «más accesible».

Los empleados del equipo de gobierno a veces se referían a sí mismos como «verdaderos creyentes» en la junta. Kristen Murdock, que era oficial de inteligencia en la Marina antes de ingresar a Facebook, me dijo: «Esto va a cambiar el rostro de la justicia social en Internet». Pero algunos ejecutivos no lo tenían en el mismo sentido. Elliot Schrage, entonces jefe de política y comunicaciones globales, dijo a las personas involucradas que era escéptico con el proyecto y que no creía que pudiera mejorarse. (Schrage afirmó, a través de un portavoz, que «apoyaba plenamente los esfuerzos para mejorar la gobernanza», pero que «tenía preocupaciones sobre cómo construir un programa creíble»). Nick Clegg, ex viceprimer ministro del Reino Unido que fue supervisando al equipo de gobierno, me dijo, en 2019, que se mostraba reacio a dejar que la junta interviniera en temas delicados, al menos al principio. «Me encantaría pensar que tendríamos un período de tiempo relativamente poco controvertido», dijo. En un momento, un director de políticas bromeó sobre las formas de hacer que la junta parezca independiente y preguntó: «¿Cuántas decisiones tenemos que dejar que la Junta de Supervisión gane para que sea legítima?»

Con el tiempo, el funcionamiento de la corte se unió. La junta incluía originalmente a veinte miembros, a quienes se les pagaba salarios de seis cifras por trabajar unas quince horas a la semana; está gestionado por un fideicomiso independiente, al que Facebook donó ciento treinta millones de dólares. (“Eso es dinero real”, me envió un reportero de tecnología. “¿Es esto realmente real?”) Según Facebook, hasta doscientas mil publicaciones se vuelven elegibles para apelaciones todos los días. “Nos estamos preparando para una manguera contra incendios”, dijo Milancy Harris, quien llegó al equipo de gobierno desde el Centro Nacional de Contraterrorismo. La junta elige los casos más “representativos” y escucha cada uno en un panel de cinco miembros, que permanecen en el anonimato para el público. A diferencia de la Corte Suprema, no hay argumentos orales. El usuario envía un informe escrito argumentando su caso; un representante de la empresa, “el procurador general de Facebook”, bromeó un empleado, presenta un informe en el que explica el fundamento de la empresa. La decisión del panel, si es ratificada por el resto de miembros, es vinculante para Facebook.

El “tema más controvertido con diferencia”, me dijo Darmé, era cuán poderosa debería ser la junta. «La gente fuera de la empresa quería que la junta tuviera tanta autoridad como fuera posible, para atar las manos de Facebook», dijo. Algunos querían que escribiera todas las políticas de la empresa. ( “En realidad probado que en la simulación”, dijo Darme. “La gente nunca realmente escribieron una política”.) Por otra parte, muchos empleados se preguntaban si la junta tomaría una decisión que mató a Facebook. A veces los escuché preguntarse entre sí, en tono nervioso: «¿Qué pasa si se deshacen del suministro de noticias?»

Como resultado, los poderes de la junta fueron limitados. Actualmente, los usuarios pueden apelar los casos en los que Facebook ha eliminado una publicación, denominados «eliminaciones», pero no aquellos en los que ha dejado una publicación o «actualizaciones». El problema es que muchos de los problemas más urgentes de Facebook (teorías de conspiración, desinformación, discurso de odio) involucran mantenimientos. Tal como está, la junta podría convertirse en un foro para trolls y extremistas enojados por ser censurados. Pero si un usuario cree que la empresa debería tomar medidas enérgicas contra ciertos tipos de discurso, no tiene ningún recurso. «Este es un gran cambio de lo que prometió», dijo Evelyn Douek, una estudiante graduada de Harvard que consultó con el equipo, furiosa, durante una reunión. «Esto es lo contrario de lo prometido». Actualmente, los usuarios tampoco pueden apelar casos sobre cuestiones como la publicidad política, los algoritmos de la empresa, o el desvío de usuarios o páginas de grupos. La junta puede tomar casos sobre estos asuntos, incluido el seguimiento, solo si son referidos por Facebook, un sistema que, según me dijo Douek, “apila el mazo” a favor de Facebook. (Facebook afirma que estará listo para permitir las apelaciones de los usuarios de actualizaciones a mediados de 2021, y espera eventualmente permitir las apelaciones en perfiles, grupos y publicidad también).

Quizás lo más importante es que los fallos de la junta no se convierten en una política de Facebook de la misma manera que un precedente de la Corte Suprema se convierte en la ley del país. Si la junta decide que la empresa debe eliminar una parte del contenido, Facebook está obligado a eliminar solo esa publicación; publicaciones similares se eliminan a discreción de Facebook. (La empresa afirma que eliminará “publicaciones idénticas con contexto paralelo” en función de su “capacidad técnica y operativa”). Las recomendaciones de política son solo de carácter consultivo. Esto reduce significativamente la influencia de la junta. Algunos esperan que las recomendaciones al menos ejerzan presión pública sobre la empresa. “Facebook socava sus objetivos y su propio experimento si restringe el impacto de las decisiones de la junta o simplemente las ignora”, me dijo Douek. Otros se sintieron decepcionados. “No es lo que la gente nos dijo que quería”, dijo Darmé.

En agosto de 2019, el equipo de gobierno se reunió con asesores, con bocadillos y seltzer, y discutió quién debería formar parte de la junta. Un guardia de seguridad estaba afuera, asegurándose de que nadie explorara las oficinas sin vigilancia. (Me detuvo al salir y me dijo que no podía irme sin una escolta). Las personas seleccionadas para la junta determinarían su legitimidad y cómo se dictaba, pero los expertos tuvieron problemas para ponerse de acuerdo sobre a quién se podía confiar esta responsabilidad. Un asistente sugirió dejar que los primeros miembros de la junta eligieran al resto, para preservar su independencia de la empresa. Lauren Rivera, profesora de la escuela de negocios de Northwestern, advirtió contra este enfoque: “Está comprobado empíricamente que cuando un grupo se selecciona a sí mismo, en ausencia de cualquier tipo de orientación, simplemente eligen más personas que se parecen a ellos. Entonces, los expertos comenzaron a dar sus propias ideas. Los periodistas dijeron que la junta debería ser en su mayoría periodistas. Los abogados internacionales de derechos humanos dijeron que deberían ser todos los abogados internacionales de derechos humanos. Los científicos de la información dijeron que debería ser «cualquiera menos abogados». Un hombre blanco en un grupo de expertos dijo que debería estar poblado por «gente común».

Finalmente, para seleccionar a sus posibles jueces, Facebook abrió un portal público, que recibió miles de nominaciones. Recibió sugerencias de candidatos de grupos políticos y organizaciones de derechos civiles. También utilizó sus talleres iniciales para buscar candidatos potenciales y observar su comportamiento. «Lo que pasa con el proceso de consultoría global es que también fue quizás el primer verdadero proceso de contratación global de Facebook», me dijo Brent Harris más tarde. Jarvis, el profesor de periodismo en el taller de Nueva York, dijo: «Es tan Facebook de ellos». Añadió: “Nunca me llamaron. Me pregunto qué dije «.

La cantidad de personas que Facebook planeaba tener en el tablero siguió cambiando. Me imaginé al equipo sudando sobre un tablero de corcho de fotografías al estilo de “Ley y orden”. En un momento, Kara Swisher, una periodista de tecnología que ha sido crítica con Facebook, se nominó a sí misma. «Me gustaría presentar una solicitud formal para ser juez y jurado sobre Mark Zuckerberg», escribió en el Times.. Facebook no la aceptó. Un periodista me envió un texto encriptado diciendo que tenía dos fuentes diciéndole que Barack Obama estaría en la junta. Cuando le pregunté a Fariba Yassaee, quien supervisó la búsqueda de miembros, sobre candidatos de alto perfil, ella sonrió. “Las personas que estamos viendo son increíblemente impresionantes, pero también pueden hacer el arduo trabajo que implica estar en la junta”, dijo. «Necesitan ser jugadores de equipo». En mayo, se anunciaron los primeros miembros de la junta. Entre ellos estaban Helle Thorning-Schmidt, ex Primera Ministra de Dinamarca; Catalina Botero Marino, ex relatora especial para la libertad de expresión de la Comisión Interamericana de Derechos Humanos; Alan Rusbridger, ex editor de The Guardian;y Tawakkol Karman, una activista que ganó el Premio Nobel de la Paz en 2011 por su papel en las protestas de la Primavera Árabe en Yemen.

La pizarra fue inmediatamente controvertida. Algunos empleados estaban enojados por el nombramiento de Michael McConnell, un juez federal retirado designado por George W. Bush. En 2000, McConnell argumentó ante la Corte Suprema que los Boy Scouts deberían poder excluir a las personas homosexuales. (Este año, durante una clase de Zoom en la Facultad de Derecho de Stanford, recitó una cita que incluía la palabra N. Defendió esto como una «elección pedagógica», pero se comprometió a no volver a utilizar la palabra). «Todos sabíamos lo que la gente fuera y dentro de la empresa estábamos esperando: miembros de la junta que respeten a todas las personas y todas las culturas, incluido el respeto por los derechos LGBTQ ”, me dijo Darmé, que desde entonces había dejado Facebook. «¿Realmente puede haber alguien en la junta que haya argumentado algo como esto hasta el tribunal más alto del país?» Otros creían que, considerando que la mitad del país es republicano, ignorar tales puntos de vista sería antidemocrático. “No es algo que realmente puedas decir ahora mismo, pero la gran mayoría del mundo es mucho más conservadora ideológicamente que Menlo Park”, dijo Harris. “¿Cómo refleja eso en la pizarra? ¿O decides, no, simplemente no vamos a tener eso? «

Personas familiarizadas con el proceso me dijeron que algunos republicanos estaban molestos por lo que percibían como la inclinación liberal de la junta. En los meses previos a los nombramientos, los grupos conservadores presionaron a la empresa para que la junta directiva simpatizara más con Trump. Sugirieron sus propias listas de candidatos, que a veces incluían miembros de la familia del presidente, sobre todo Ivanka y los hijos del presidente. «La idea era, o llenar este tablero con conservadores que apoyan a Trump o matarlo», dijo una persona familiarizada con el proceso. A principios de mayo, poco después de que se anunciaran los miembros de la junta, Trump llamó personalmente a Zuckerberg para decirle que no estaba satisfecho con la composición de la junta. Estaba especialmente enojado por la selección de Pamela Karlan, una profesora de derecho de Stanford que había testificado en su contra durante su primer juicio político. “Usó a Pam como un ejemplo de cómo la junta era algo profundamente ofensivo para él”, dijo la persona familiarizada con el proceso. Zuckerberg escuchó y luego le dijo a Trump que los miembros habían sido elegidos en función de sus calificaciones. A pesar de la presión de Trump, Facebook no cambió la composición de la junta. (Trump se negó a comentar).

Varios candidatos se negaron a ser considerados. Jameel Jaffer, director del Instituto Knight de la Primera Enmienda, me dijo: “Estaba preocupado, y todavía lo estoy, de que Facebook use la membresía en la junta como una forma de cooptar a defensores y académicos que de otra manera serían más críticos con la empresa.» Pero otros lo vieron como una forma de impulsar a Facebook en la dirección correcta. Julie Owono, miembro de la junta y directora de Internet Sans Frontières, me dijo: “Había expresado interés en unirme a la junta porque siento, y todavía lo hago, que Facebook está haciendo un trabajo terrible en el discurso del odio en entornos que ya son muy tiempo.» Thorning-Schmidt, ex primer ministro de Dinamarca, me dijo: “Necesitaba saber que esto sería independiente de Facebook y que Facebook se comprometería a seguir nuestras decisiones. Se reunió con Zuckerberg y le pidió que diera su palabra: “Tuve que escucharlo de Mark Zuckerberg personalmente. Y él dijo que sí «.

Los críticos de la junta creen que resultará ser poco más que una distracción. «Creo que es una enorme pérdida de tiempo y dinero», dijo Julie Cohen, profesora de derecho en Georgetown. Ella cree que su panel repleto de estrellas y su generosa financiación evitarán la regulación y permitirán a la empresa subcontratar decisiones controvertidas. Y, dado que actualmente solo puede gobernar publicaciones individuales, la junta no puede abordar los problemas más fundamentales de Facebook. A mediados de mayo, por ejemplo, un video llamado «Plandemic», que afirmaba que las empresas de vacunas habían creado covid-19 para sacar provecho de la pandemia, se volvió viral en la plataforma. Fue retirado en unos pocos días, pero para ese momento ya lo habían visto 1,8 millones de personas. Ellen P. Goodman, profesora de derecho en Rutgers, cree que Facebook necesita agregar más fricción a la circulación de contenido; cualquier cosa que se incendie, dijo, debería estar sujeta a un «disruptor de viralidad» que detiene la propagación hasta que el contenido haya sido revisado. Zephyr Teachout, profesor de derecho en Fordham, dice que la empresa debería acabar con la publicidad dirigida, que incentiva la promoción de publicaciones incendiarias que llaman la atención. «Si el núcleo de nuestra infraestructura de comunicaciones está impulsado por anuncios dirigidos, tendremos una esfera de comunicaciones tóxica, impulsada por conflictos», dijo.

Este verano hablé con Zuckerberg sobre Zoom. Vestía un vellón Patagonia y se sentaba en una habitación con paneles de madera frente a una gran chimenea de mármol. Había estado muy involucrado en la creación de la junta: editando documentos, leyendo notas, revisando posibles miembros. “No veo ningún camino para que la empresa salga del negocio de tener que hacer estos juicios”, me dijo. «Pero sí creo que podemos tener supervisión adicional e instituciones adicionales involucradas». Dijo que esperaba que la junta “nos hiciera responsables de asegurarnos de que tomamos las decisiones correctas y de que tenemos un mecanismo para revocarlas cuando no lo hacemos”.

Parecía cansado. Parecía más cómodo hablando de «producto» o «herramientas de construcción» que hablando de ética o política. Me sorprendió que fuera esencialmente un codificador que se había encontrado a sí mismo administrando el mercado mundial de ideas. “El trabajo principal de lo que hacemos es crear productos que ayuden a las personas a conectarse y comunicarse”, dijo. «En realidad, es bastante diferente al trabajo de gobernar una comunidad». Esperaba separar estos trabajos: habría grupos de personas que crearían aplicaciones y productos, y otros, incluido el equipo de políticas de Facebook y ahora la junta, que deliberaron sobre las espinosas preguntas que los acompañaron. Mencioné un discurso que dio en Georgetown, en 2019, en el que señaló que la junta era personalmente importante para él, porque lo ayudó a sentir que, cuando finalmente se fuera, dejaría la empresa en buenas manos. “Algún día, no voy a dirigir la empresa”, me dijo. «Me gustaría no estar en la posición, a largo plazo, de elegir entre alguien que esté más alineado con mi visión y valores morales, o que en realidad esté más alineado con la capacidad de crear productos de alta calidad».

Le pregunté qué tipo de casos espera que tome la junta. “Si yo fuera ellos, sería cauteloso al elegir algo que estuviera tan cargado de inmediato que polarizaría inmediatamente a toda la junta y la percepción de la gente sobre la junta y la sociedad”, me dijo. Sabía que los críticos deseaban que la junta tuviera más poder: “Este es sin duda un gran experimento. Ciertamente no es tan amplio como a todo el mundo le gustaría que fuera, por adelantado, pero creo que hay un camino para llegar allí «. Pero rechazó la idea de que fuera una hoja de parra. «No estoy preparando esto para quitarme presión a mí oa la empresa en el corto plazo», dijo. “La razón por la que estoy haciendo esto es que creo que, a largo plazo, si construimos una estructura en la que la gente pueda confiar, eso puede ayudar a crear legitimidad y crear una supervisión real. Pero creo que existe un riesgo real

En abril de 2020, los miembros de la junta se reunieron por primera vez en Zoom. Los empleados de Facebook lloraron y tomaron una captura de pantalla. “Fue una experiencia tan profunda ver que esta cosa cobró vida propia”, dijo Heather Moore, quien llegó a Facebook desde la oficina del fiscal federal. Después de eso, los miembros de la junta asistieron a sesiones de capacitación, que incluyeron ejercicios para romper el hielo y de confianza; en uno, trajeron imágenes que representaron momentos cruciales en sus vidas. “Si podemos llevarnos lo suficientemente bien como para estar en desacuerdo y permanecer en la misión es crucial y bastante desconocido”, me dijo John Samples, un miembro que trabaja en el Instituto Cato, un grupo de expertos libertario. El grupo se vio rápidamente sometido a una intensa presión pública para hacer frente a la empresa. En junio, una organización sin fines de lucro llamada Accountable Tech comenzó a apuntar a la junta en Facebook con anuncios que incluían sus fotos y se dirigían a ellos por su nombre: “Pam Karlan: habla o dimite”; «Dile a Michael McConnell: no seas cómplice». Los miembros a menudo sintieron la necesidad de afirmar su independencia. La compañía asignó lecturas, algunas de las cuales fueron, según un miembro de la junta, «solo basura de relaciones públicas de Facebook», y los empleados asistieron a las primeras reuniones y simularon deliberaciones. «Estamos locos si estamos en una posición de supervisión y las personas que nos enseñan sobre lo que estamos supervisando son las personas que debemos supervisar», dijo el miembro de la junta. Tras las quejas, los empleados de Facebook dejaron de ser invitados a las reuniones. ”Los miembros a menudo sintieron la necesidad de afirmar su independencia. La compañía asignó lecturas, algunas de las cuales fueron, según un miembro de la junta, «solo basura de relaciones públicas de Facebook», y los empleados asistieron a las primeras reuniones y simularon deliberaciones. «Estamos locos si estamos en una posición de supervisión y las personas que nos enseñan sobre lo que estamos supervisando son las personas que debemos supervisar», dijo el miembro de la junta. Tras las quejas, los empleados de Facebook dejaron de ser invitados a las reuniones. ”Los miembros a menudo sintieron la necesidad de afirmar su independencia. La compañía asignó lecturas, algunas de las cuales fueron, según un miembro de la junta, «solo basura de relaciones públicas de Facebook», y los empleados asistieron a las primeras reuniones y simularon deliberaciones. «Estamos locos si estamos en una posición de supervisión y las personas que nos enseñan sobre lo que estamos supervisando son las personas que debemos supervisar», dijo el miembro de la junta. Tras las quejas, los empleados de Facebook dejaron de ser invitados a las reuniones.

En octubre, Facebook comenzó a permitir apelaciones de un cinco por ciento aleatorio de usuarios, como una nueva función de Instagram, y la jurisdicción de la junta se implementó durante el mes siguiente. Su expediente incluía una publicación de un usuario estadounidense sobre Joseph Goebbels, el ministro de propaganda nazi, y una de un usuario en Myanmar que afirmaba que «algo anda mal con los musulmanes psicológicamente». Owono me dijo: «Nunca imaginé que tendría que hacerme este tipo de preguntas difíciles con tanta rapidez». Revisaron los Estándares Comunitarios de la compañía, un documento de diez mil palabras que codifica las políticas de discurso de Facebook, y consultaron precedentes en la ley internacional de derechos humanos. Un debate que ha surgido entre los miembros de la junta refleja la división en la Corte Suprema entre interpretaciones “textualistas” y “vivas” de la Constitución. Algunos creen que su trabajo consiste en ajustarse más a las políticas de Facebook. “Nuestro trabajo es preguntar, ‘¿Qué significa el texto?’ ”Me dijo un miembro. «No tenemos mucha legitimidad si empezamos a inventar cosas». Otros creen que deberían usar su poder para rechazar las políticas de Facebook cuando sean perjudiciales. Nicolas Suzor, un profesor de derecho de Australia y miembro de la junta, me dijo: «Me preocupaba que termináramos con decisiones que se limitaran a los hechos, pero la gente es valiente».

En uno de los primeros casos de la junta, un usuario publicó fotos y las describió como iglesias en Bakú, Azerbaiyán, que habían sido arrasadas como parte de la persecución en curso de los armenios en la región. Se quejó de la «agresión azerbaiyana» y el «vandalismo», y se refirió a los azerbaiyanos usando la palabra » taziki «, que literalmente significa «lavabos» pero es un juego con un insulto ruso. Facebook había eliminado la publicación como discurso de odio, pero algunos miembros de la junta sintieron que era extraño aplicar esta regla a una queja contra un grupo dominante. El panel solicitó un informe de la unesco, recibió un comentario del relator especial de la ONU sobre temas de minorías, y otro de un grupo de expertos en Ucrania, quien les dijo que los grupos perseguidos a menudo usaban un lenguaje ofensivo en su lucha por la igualdad. “Aprendimos que, durante un conflicto, generalmente se acepta que la gente use palabras duras, así que existe la idea de que, especialmente cuando los derechos de las minorías están en riesgo, existe la costumbre de permitir un discurso más duro”, me dijo un miembro de la junta. «Nunca había oído hablar de eso antes, y lo encontré convincente». Al final, votaron a favor de retirar el cargo, aunque no todos estuvieron de acuerdo. La opinión sugirió que una minoría de los miembros «creía que la acción de Facebook no cumplía con los estándares internacionales y no era proporcionada», y que la empresa «debería haber considerado otras medidas de cumplimiento además de la eliminación».

En otro caso, alguien en Francia había publicado un video y el texto adjunto quejándose de que el gobierno se había negado a autorizar una combinación de azitromicina e hidroxicloroquina, un medicamento contra la malaria, como tratamiento para covid.-19. Muchos en la derecha, incluidos Trump y el profesor francés Didier Raoult, han afirmado que la hidroxicloroquina cura la enfermedad, aunque la afirmación ha sido desacreditada y los científicos han advertido que el medicamento puede causar efectos secundarios peligrosos. El usuario afirmó que la «cura de Raoult» se estaba utilizando en otros lugares para salvar vidas y publicó el video en un grupo público con quinientos mil miembros. A Facebook le preocupaba que las personas se automedicaran y lo eliminó. Según una persona de la junta, los miembros del panel “que han vivido en lugares que han tenido mucha desinformación en términos de covid-19 ”coincidió con esta decisión, creyendo que,“ en medio de esta enorme pandemia que afecta a toda la población mundial, se pueden adoptar medidas decisivas ”. Pero otros señalaron que el puesto estaba presionando por un cambio de política y les preocupaba censurar las discusiones políticas. “No importa cuán controvertido nos parezca, esas preguntas y desafíos son los que ayudan a avanzar el conocimiento científico”, dijo el miembro de la junta. Descubrieron que el estándar de Facebook para censurar tal discurso, interpretado bajo la ley internacional de derechos humanos, implicaba determinar si era probable que incitara a un daño directo. Debido a que la combinación de medicamentos no estaba disponible sin receta en Francia, decidieron que el riesgo de que las personas se autoadministraran era bajo.

Cuando la junta tenía solo tres semanas, las protestas de Black Lives Matter se extendían por todo el país, y Trump publicó en Facebook y Twitter amenazando con enviar al ejército para someterlos, escribiendo: «Cuando comience el saqueo, comenzará el tiroteo». Su lenguaje se hizo eco del del segregacionista George Wallace, quien amenazó a los manifestantes por los derechos civiles en términos similares. Twitter marcó el tuit por violar sus reglas contra “glorificar la violencia”, pero Facebook lo dejó sin marcar. Zuckerberg emitió un comunicado en el que decía: «No estoy de acuerdo con la forma en que el presidente habló sobre esto, pero creo que la gente debería poder verlo por sí misma». En una entrevista en Fox News, señaló que no creía que la empresa debiera ser el «árbitro de la verdad» en cuestiones políticas. Los empleados enojados organizaron una huelga virtual y plantearon la idea, en una sesión de preguntas y respuestas filtrada, de dejar que la junta escuche el caso. Unos días después del incidente, Suzor, la profesora de derecho australiana, sugirió una reunión de la junta completa. Los usuarios no podían apelar la decisión de Facebook ante la junta —todavía no había comenzado a tomar casos y la publicación era un seguimiento— pero, no obstante, debatió el tema.

Varios miembros se sorprendieron por las amenazas de Trump e inicialmente querían reunirse con Zuckerberg o emitir un comunicado condenando la decisión de la plataforma. “Estaba furioso por el doblez del ‘árbitro de la verdad’ de Zuck”, me dijo un miembro de la junta. Otros sintieron que adoptar una posición partidista alienaría a la mitad del país y perdería la legitimidad de la junta. «Setenta y cinco millones de personas votaron por Trump», dijo Samples. «¿Qué vas a hacer al respecto?» El grupo discutió si debería intervenir en asuntos ajenos a su competencia que, sin embargo, son de importancia pública. Jamal Greene, uno de los copresidentes, me dijo: “El sentimiento general era ‘no’ por ahora, y tal vez ‘no’ nunca, pero ciertamente no antes de que hagamos lo que se supone que debemos hacer. haciendo.» Después de dos horas de discusión, los miembros decidieron quedarse callados. «El despotricar moralista no va a hacer una diferencia», dijo Samples. “¿Construir una institución que pueda responder lentamente las preguntas difíciles? Eso podría «.

No tuvieron mucho tiempo para el desarrollo institucional. El 6 de enero, un grupo de partidarios de Trump que disputaban los resultados de las elecciones presidenciales irrumpieron en el Capitolio, se tomaron selfies, amenazaron e intentaron interrumpir la transición pacífica del poder. Trump había instado a la mafia al afirmar repetidamente, en Facebook y en otros lugares, que le habían robado las elecciones. Cientos de miles de personas habían utilizado el sitio para difundir el reclamo y para organizar la manifestación en el Capitolio. Posteriormente, Trump lanzó un video en el que desautorizaba tibiamente la violencia y reiteraba sus afirmaciones de una elección fraudulenta. Él tuiteó: “Estas son las cosas y los eventos que suceden cuando una victoria electoral sagrada y aplastante es despojada de manera tan brutal y sin ceremonias de los grandes patriotas que han sido maltratados e injustamente durante tanto tiempo. Facebook eliminó dos de las publicaciones de Trump. A la mañana siguiente, en un comunicado de su propio Facebook, Zuckerberg anunció una suspensión indefinida de la cuenta de Trump. «En este momento, el riesgo para nuestra democracia era demasiado grande», dijo Sheryl Sandberg en una entrevista. «Sentimos que teníamos que dar el paso sin precedentes de lo que es una prohibición indefinida, y me alegro de haberlo hecho». Al día siguiente, Twitter lo prohibió permanentemente.

Muchos sintieron que la decisión fue un paso importante. “Las plataformas fallaron en regular las cuentas, claro, ya que él incitaba a la violencia, y lo prohibieron por eso solo despuésEl resultado fue una violencia atroz ”, me dijo Susan Benesch, directora fundadora del Dangerous Speech Project. “Pero prohibirlo bajó su megáfono. Rompió sus vínculos con su gran audiencia «. Otros expresaron preocupación porque Facebook había ejercido su poder para silenciar a un líder elegido democráticamente. “La quinta corporación más valiosa de Estados Unidos, con un valor de más de setecientos mil millones de dólares, casi un monopolio en su nicho de mercado, ha restringido el discurso de una figura política a sus treinta millones de seguidores”, dijo Eugene Volokh, profesor de derecho en UCLA. “Quizás eso esté bien. Quizás incluso sea un servicio público. Pero es un poder extraordinario para cualquier entidad, pública o privada ”. Angela Merkel , la canciller de Alemania, describió la eliminación de Trump de Twitter como «problemática» yAlexey Navalny , el líder de la oposición rusa, tuiteó: «Creo que la prohibición de Donald Trump en Twitter es un acto inaceptable de censura».

En una entrevista, Sandberg señaló que Trump podría apelar la eliminación de sus publicaciones. Pero solo Facebook tenía el poder de remitir su suspensión a la junta. En conversaciones con el liderazgo de Facebook, los miembros del equipo de gobierno y la confianza de la junta argumentaron que no llevar el caso ante la junta socavaría su legitimidad. Harris comparó la junta con Tinkerbell: «Al final del día, puedes construir todas las cosas, pero solo tienes que tener suficientes personas que crean para hacerlo realidad». Los miembros parecían ansiosos por asumirlo. Uno me envió un mensaje de texto: “Si no somos nosotros, ¿quién? Y si no es ahora, ¿cuándo? Incluso Clegg, que inicialmente había favorecido un despliegue más lento de la placa, quería que escuchara el caso. «En lo que a mí respecta, esto fue una obviedad», me dijo Clegg. “¿Por qué no lo enviaría a la Junta de Supervisión? Si no lo hiciste, lo estarías cojeando desde el principio «. El día después de la toma de posesión de Joe Biden, Facebook envió el caso y le pidió a la junta que dictara si Trump debería permanecer indefinidamente prohibido en la plataforma. Clegg agregó, cuando hablamos, que si la junta puede «responder también sobre líderes políticos en situaciones análogas, estaríamos encantados de escuchar».

Los miembros de la junta se enteraron de que estaban recibiendo el caso solo media hora antes que el público. Los miembros observaron con entusiasmo el sitio web interno de la junta para ver si habían sido seleccionados para el panel. Ahora tendrán dos meses más para deliberarlo. Grupos de la sociedad civil como el Center for Democracy & Technology y R Street, un grupo de expertos conservadores, están enviando comentarios sobre el caso, el equivalente a presentar informes amicus, argumentando a favor o en contra de la reinstalación de Trump. Trump tiene la oportunidad de presentar un escrito argumentando por qué debería ser reintegrado. «La decisión de Trump de la junta puede afectar las libertades y, sí, las vidas de cientos de millones», me dijo Samples. «Pocos casos de la Corte Suprema de Estados Unidos tienen tanto potencial para bien o para mal». Ronaldo Lemos, miembro de la junta y profesor de derecho en Río de Janeiro, me dijo que cree que la junta tiene mucho trabajo por delante. «La Junta de Supervisión no se retirará pronto», dijo. «No vamos a ir a ninguna parte».

ÚLTIMAS NOTICIAS