Escrito por Francis Mollan (**)
En los últimos años, las diferentes plataformas de redes sociales han moderado la propagación de noticias falsas debido a la coyuntura del covid-19. Así, como una de las medidas más drásticas, se reportó el bloqueo de todos los contenidos antivacunas en la plataforma de YouTube llegando a eliminar los canales en alemán de la cadena estatal rusa RT, el de Robert F. Kennedy Jr. (hijo de John F. Kennedy) y el del popular defensor de la “medicina alternativa”, Joseph Mercola (García, 2021).
Ahora bien, esta creciente moderación privada de contenidos, a través de la eliminación o suspensión de ciertas cuentas o publicaciones, ha llevado a las principales plataformas digitales a implementar diversos sistemas de revisión, como recursos internos frente a posibles errores en la aplicación de los términos y condiciones correspondientes.
Incluso antes de la pandemia que desencadenó los bloqueos de contenidos de noticias falsas, en el año 2018, la organización Public Knowledge presentó “Even Under Kind Masters: A Proposal to Require that Dominant Platforms Accord Their Users Due Process”. En este, se plantea principalmente que los usuarios deben ser protegidos por el debido proceso en las apelaciones dentro de la revisión de contenidos (Observacom, 2018).
En el presente texto, analizaremos si las exigencias del debido proceso deberían, en efecto, ser aplicadas en los sistemas de revisión de las mencionadas plataformas o si estas solo le conciernen a los sistemas jurisdiccionales.
Sobre los sistemas de revisión
Actualmente, las plataformas de redes sociales más usadas cuentan con un sistema de “apelación” para usuarios cuyo contenido ha sido bloqueado o eliminado por el incumplimiento de normas internas o los términos y condiciones. Sin embargo, no todas ellas ofrecen una instancia de revisión frente a otras medidas como la suspensión o cancelación de las cuentas (Del Campo, 2020). Al respecto, podemos afirmar que ambos procesos deberían solamente denominarse como “sistemas de revisión” y no de apelación (este punto se desarrollará en el siguiente acápite).
Por un lado, podemos notar que Facebook (la plataforma que presenta de manera más transparente su sistema de revisión de moderación de contenidos) ofrece como instancia para la cancelación de una cuenta “por error”, el ofrecimiento de un formulario que permite reportar la cancelación y acceder a una revisión manual.
Por otro lado, YouTube utiliza sistemas automatizados para detectar contenidos no aptos para todo el público (lo que implica su desmonetización) o contenido prohibidos. Centrándonos en los contenidos prohibidos por la plataforma, nos encontramos frente a un sistema de “strikes”. Se aplica una “falta” o “strike” cada vez que el usuario infrinja alguna de las Normas de la Comunidad de Youtube. Así, se aplicará una advertencia para la primera infracción y una falta a partir de la segunda. Si el usuario acumula tres faltas en el mismo periodo de 90 días, el canal es eliminado permanentemente. Ahora bien, en este procedimiento, la plataforma ofrece, al igual que Facebook, un formulario en el que el usuario puede presentar una “apelación” frente a la advertencia o falta impuesta.
En los mencionados casos, estamos frente a sistemas automatizados de revisión que son perfectibles, ya que se puede descontextualizar el contenido e interpretarse de manera errónea. En consecuencia, las plataformas más importantes permiten al usuario apelar las decisiones de las diferentes “instancias”. Este sistema de revisiones permite al usuario establecer un recurso para que se analice manualmente la decisión y ya no a través de un sistema automatizado. Sin embargo, debido al alto número de reclamos de la plataforma correspondiente, puede suceder que ambas “instancias” sean atendidas por un sistema automatizado.
Sobre la apelación y el debido proceso
El derecho a un debido proceso permite que todo justiciable pueda iniciar o participar de un proceso teniendo, en todo su transcurso, el derecho a ser oído, de alegar, de probar y de impugnar sin restricción alguna (Monroy, 1993, p.37). La apelación o el derecho al recurso es pues, en nuestra opinión, una manifestación de este principio.
En los sistemas jurisdiccionales, la apelación es un recurso ordinario que puede interponerse contra todas las resoluciones definitivas dictadas por el tribunal de primera instancia y que se resuelve por un órgano superior que resuelve de nuevo y puede declarar su nulidad o invalidez (Moreno, 2020, p. 158).
Es así como los recursos pueden centrarse en la construcción de la resolución (error in procedendo), el cual afecta la validez de la sentencia, o en lo que decide u ordena el juez (error in iudicando), el cual deviene en la corrección de la sentencia.
Ahora bien, los sistemas de apelación, según Common (2019, p. 2), son importantes por lo siguiente:
- Ofrecen la oportunidad de verificación de una decisión en búsqueda de errores obvios
- Ayudan a prevenir errores judiciales y garantizan que las partes afectadas reciban una audiencia justa
- Empoderan a los participantes y hacen significativa la interacción entre los individuos y el Estado. [Traducción propia]
Con esto, notamos que la figura de la apelación doctrinalmente ha sido entendida únicamente como parte de la relación entre el Estado y el particular. Ello también se refleja en nuestra regulación. Así, a nivel legal, el artículo X del Código Procesal Civil y el artículo I del Código Procesal Penal reconocen a la apelación como la representación del principio de doble instancia, el cual a su vez es parte del principio al debido proceso. Además, la Constitución, en el inciso 6 del artículo 139°, señala que la pluralidad de instancias es un principio y derecho de la función jurisdiccional[1].
¿El “debido proceso” es aplicable en los sistemas de revisión?
Debemos partir del supuesto de que, si se permiten medidas de censura de los contenidos por parte de las plataformas privadas, se debe asegurar también la posibilidad de reclamo o defensa contra ello. Entonces, si se entiende que las plataformas también son responsables del contenido publicado en ellas, consideramos que las empresas deben responder al debido proceso para la regulación del contenido de los usuarios.
Así, por ejemplo, un requisito procesal sobre el debido proceso que debería exigirse es que las “restricciones previas impuestas por los sistemas de filtrado estén sujetas a definiciones claras y precisas de la expresiones reguladas […], de modo que los usuarios y proveedores de contenidos afectados sean informados sobre el bloqueo y las razones correspondientes y que el sistema de filtrado conceda […] la posibilidad de apelar tales decisiones sobre bloqueo, ante un órgano judicial” (Nunziato, 2012, p.43).
Notamos que, para esta autora, la apelación a la que deberían acceder los usuarios sería únicamente bajo la vía jurisdiccional como parte del ejercicio del derecho al debido proceso; sin embargo, deberíamos preguntarnos si los principios del debido proceso también son aplicables a la “apelación”, o mejor dicho al reclamo, dentro del sistema interno de revisión de contenidos.
Según nuestro Tribunal Constitucional, “el ámbito de irradiación del debido proceso no abarca exclusivamente el campo judicial, sino que se proyecta […] sobre todo órgano, público o privado que ejerza funciones formal o materialmente jurisdiccionales” (fundamento 6, STC. Exp. N°03581-2017-PA/TC).
En esta línea, concordamos que las garantías del debido proceso deben permanecer en las relaciones entre privados, como lo es el caso de la moderación de contenidos en las redes sociales. Ello debido a que el respeto a los derechos fundamentales de los individuos no solo se dirige hacia la actuación del Estado frente al particular y viceversa, sino que también se debe practicar en la relación entre particulares. Entonces, si se respeta el derecho al debido proceso dentro de relaciones en las que no participa el Estado directamente, es imperante que se presenten medios de “apelación” para la parte afectada por la decisión.
En ese sentido, no cabe una interpretación literal sobre el reconocimiento del debido proceso centrándonos únicamente en las instituciones reconocidas como jurisdiccionales dentro de nuestro país. En cambio, debemos analizar si el particular está ejerciendo funciones “cuasi jurisdiccionales” dentro de su relación con el usuario.
Ahora bien, según Del Campo, el traslado de la figura del “debido proceso” a la regulación privada de las plataformas de redes sociales es complicado. Ello debido a que las plataformas han recurrido a la automatización de todo el proceso de moderación de contenidos para evitar problemas de cantidad y tiempo respecto a la atención de cada incumplimiento a las normas internas y términos y condiciones, así como también para la recepción de reclamos (2020).
Observacom (2020), junto con diversas organizaciones latinoamericanas, han presentado una serie de estándares para una regulación en relación con la moderación privada de contenidos. En el mencionado documento, se propone principalmente lo siguiente:
- Respecto al debido proceso:
- Salvo casos excepcionales debidamente justificados, las personas afectadas por una medida de restricción o interferencia por parte de las plataformas deben ser notificadas de manera previa sobre las medidas de restricción y deben poder tener la posibilidad de presentar contraargumentos o quitar voluntariamente el contenido publicado antes de la medida unilateral de la plataforma.
- El filtrado y bloqueo de subida por parte de las plataformas es solo legítimo cuando se trata de protección de la infancia y la adolescencia, afectación de derechos de autor o derechos compatibles con los estándares internacionales.
- Respecto a la apelación:
- Los mecanismos de apelación deberían ser muy accesibles y fáciles de utilizar.
- Las apelaciones deberían estar sujetas a revisión por una persona o panel de personas que no estuvieron involucradas en la decisión inicial y que no sea parte interesada.
En mi opinión, iniciativas como esta, que buscan que la autorregulación por parte de las plataformas privadas respete la libertad de expresión de los usuarios, buscan el respeto a una doble instancia para evitar arbitrariedades en contra de los usuarios. Sin embargo, lo hacen centrándose en una figura que pertenece a los sistemas jurisdiccionales: la apelación.
Como ya se expuso en el presente documento, a estos procesos deben denominarse meramente sistemas de revisión, ya que atienden quejas por parte de los usuarios afectados, mas no representan la implementación de alguna actividad jurisdiccional.
En conclusión, afirmamos que nos encontramos frente a un caso de instancias “cuasijurisdiccionales”, pues, si bien las plataformas tienen incidencia que trasciende los límites de la actuación nacional, no puede permitirse la libre determinación de la plataforma como ente privado para la regulación de su contenido. Ello debido a que las principales redes sociales han establecido una relevancia social tan alta que se han convertido, en muchos casos, en medios de comunicación masivos y más accesibles para los usuarios que otros medios alternativos (que tienden a ser menos disruptivos).
Tanto la trascendencia de las redes sociales como medios de comunicación, así como también el respeto inter-particulares de los derechos fundamentales hacen que el respeto al debido proceso[2] sea vinculante con las plataformas.
Así, si se considera a estas como entes “cuasi jurisdiccionales”, podrían adaptarse todas las exigencias del debido proceso sin el impedimento de la falta de reconocimiento por parte del Estado de estas instancias, como una excepción a la exclusividad de la función jurisdiccional.
(*) Nota de la autora: Agradezco al Prof. Juan Sánchez Córdova por la revisión y observaciones del presente artículo.
(**) Sobre la autora: Estudiante de la Facultad de Derecho de la Pontificia Universidad Católica del Perú. Miembro ordinaria de la asociación IUS ET VERITAS y miembro del Consejo Editorial del portal de actualidad jurídica IUS 360.
Referencias:
[1] Si bien la misma Constitución ha reconocido a los proceso arbitrales, constituidos únicamente por particulares, tomamos como punto de partida que la apelación es meramente en los procesos jurisdiccionales en el que interactúan el Estado y los particulares. El arbitraje es meramente una excepción de la exclusividad de la función jurisdiccional junto con el Fuero militar policial.
[2] Consideramos que también su relación con el “debido proceso” y no con el “debido procedimiento” puede ser objeto de debate, ya que podría analizarse a cuál de las opciones se asemeja más el sistema de revisión de las plataformas de redes sociales. Cabría destacar que, si se le asemeja al “debido procedimiento” debido a la naturaleza unilateral de la decisión de la plataforma, podría afirmarse que se estaría asegurando la posterior presentación de un recurso frente a algún ente jurisdiccional estatal. Sin embargo, el carácter “cuasijurisdiccional” que planteamos en el presente escrito puede permitir que se compartan diferentes características de ambas opciones, al ser un caso especial que afecta a más de una Administración, ya que el ámbito de aplicación de los sistemas de revisión trasciende los límites de cada país.
Bibliografía
Ayuda de YouTube. (2022). Introducción a las faltas por incumplimiento de las Normas de la Comunidad. Google Support. Retrieved January 28, 2022, from https://support.google.com/youtube/answer/2802032?hl=es
Common, MacKenzie. The Importance of Appeals Systems on Social Media Platforms (2019). LSE Law – Policy Briefing Paper N° 40, Setiembre del 2019, Recuperado de http://dx.doi.org/10.2139/ssrn.3462770
Del Campo, A. (2020). #platformlaw: ¿Cómo funcionan las apelaciones a la moderación privada de contenidos? CELE – Centro de Estudios En Libertad de Expresión y Acceso a La Información. Recuperado el 21 de noviembre del 2021 de https://observatoriolegislativocele.com/platformlaw-como-funcionan-las-apelaciones-a-la-moderacion-privada-de-contenidos/
García, Juan. (2021). ¿Censura o sentido de la responsabilidad?: YouTube bloquea todos los contenidos antivacunas. En La Vanguardia. Recuperado el 30 de noviembre del 2021. https://www.lavanguardia.com/tecnologia/20210929/7756075/youtube-bloquea-contenidos-antivacunas.html
Monroy Gálvez, J. (1993). Los Principios Procesales en el Código Procesal Civil de 1992. THEMIS Revista De Derecho, (25), 35-48. Recuperado a partir de https://revistas.pucp.edu.pe/index.php/themis/article/view/11057
Moreno Catena, V. (2020). El recurso de apelación y la doble instancia penal. Teoría & Derecho. Revista De Pensamiento jurídico, (4), 157–188. Recuperado a partir de https://teoriayderecho.tirant.com/index.php/teoria-y-derecho/article/view/296
Nunziato, Dawn Carla. (2012). “Preservar la libertad en Internet en las Américas”. En Hacia una Internet libre de censura: Propuestas para América Latina. Recuperado el 30 de noviembre del 2021. https://www.palermo.edu/cele/pdf/internet_libre_de_censura_libro.pdf
Observacom. (2018). Public Knowledge propone que las plataformas estén sujetas al principio de debido proceso como garantía de trato justo para los usuarios. En Observacom. Recuperado el 30 de noviembre del 2021. https://www.observacom.org/public-knowledge-propone-que-las-plataformas-esten-sujetas-al-principio-de-debido-proceso-como-garantia-de-trato-justo-para-los-usuarios/
Observacom. (2020). Estándares para una regulación democrática de las grandes plataformas que garantice la libertad de expresión en línea y una Internet libre y abierta: Una perspectiva latinoamericana para lograr procesos de moderación privada de contenidos compatibles con los estándares internacionales de derechos humanos. De Observacom. Recuperado el 30 de noviembre del 2021. https://www.observacom.org/wp-content/uploads/2021/02/Estandares-democraticos-para-regular-las-grandes-plataformas-de-Internet.pdf
Tribunal Constitucional. (2021). Sentencia recaída en el expediente N°03581-2017-PA/TC. Víctor Saboya Flores contra la Corte Superior de Ucayali. 16 de febrero del 2021. Recuperada de https://www.gacetajuridica.com.pe/docs/Expediente03581-2017-AA.pdf
