Diálogo Global Ciudadano sobre el futuro de Internet
Resumen Informativo
Este resumen es producto de un proceso de coproducción colaborativa y mejora iterativa. Los autores principales fueron Tereza Horejsova y Stephanie Borg Psaila de DiploFoundation («Internet y yo»), Anouk Ruhaak («Mis datos, tus datos, nuestros datos»), Chiara Ullstein y Michel Hohendanner («de la esfera pública al público digital esfera ”) y Matthias C. Kettemann del Instituto Leibniz de Investigación de Medios (“ Buenas noticias, malas noticias, noticias falsas, noticias reales ”).
Este trabajo está sujeto a una licencia internacional Creative Commons Attribution-ShareAlike 4.0.
Tabla de contenidos
Editorial
Bienvenida a bordo
¡¿Internet?!
¿Espera pero por qué?
La sesión informativa
Internet y yo
¿Qué es Internet?
Internet existe desde hace más de 50 años
Una red de redes
Cómo evolucionó Internet
¿Quién tiene acceso a ella?
¿Quién hace que Internet funcione?
¿Internet es bueno o malo? Identificar algunos de los principales problemas
Mis datos, sus datos, nuestros datos
Dejamos un rastro online: datos
De migas de pan a perfiles
Cómo se utilizan los datos sobre ti
No todo depende de ti
Por que es importante ahora
Hay diferentes formas de ver los datos
Los datos como recurso privado que puede ser propiedad
Datos como mano de obra
Los datos como nuestro reflejo personal
Datos como desechos tóxicos
Datos como infraestructura
¿Quién debería beneficiarse de los datos (digitales)?
Hacia una esfera pública digital sólida
Que es y por que es importante
Una tremenda oportunidad
Desde la “esfera pública” …
… a la «Esfera pública digital»
¿Cómo podemos clasificar la cantidad de información?
Una esfera pública saludable
Buenas noticias, malas noticias, noticias falsas, noticias reales
¿Qué es la desinformación y por qué es un problema?
Libertad de expresión y sus límites
¿Es la desinformación un problema real?
Abordar la desinformación
El papel de los estados y gobiernos
El papel de las plataformas
¿Deben ser responsables los usuarios?
¿Qué pasa con la sociedad civil y los medios de comunicación?
Entonces, ¿qué herramientas deberíamos implementar?
Gobernando la inteligencia artificial
Qué es la Inteligencia Artificial y por qué es importante
Más allá del bombo
Áreas de aplicación actuales de la IA
¿Qué es el aprendizaje automático?
El proceso de aprendizaje automático
Algunos desafíos del aprendizaje automático
¿Quién es responsable?
Hacia las reglas para gobernar la IA
Mirando hacia adelante
¿Quién debería cuidar Internet?
Qué es la «gobernanza» y por qué es importante
Gobernanza de Internet 101
Nosotros el internet
Léxico
Editorial
Bienvenido a Bordo
¿Cómo dibujarías una imagen de Internet? Puedes dibujar una computadora, un teléfono móvil o una tableta. Quizás, podría imaginarte varias computadoras conectadas entre sí, ilustradas por líneas interconectadas aleatoriamente. Así es como se ve Internet para la mayoría de nosotros, los usuarios. Si piensas en la tecnología detrás de Internet, esa imagen es correcta. Internet es una red global que conecta computadoras y dispositivos, y a cada uno de nosotros que usa Internet. También está en todas partes: desde nuestros hogares y oficinas (¡piense también en electrodomésticos y vehículos!), Hasta espacios abiertos, oficinas gubernamentales y transporte público.
Pero para comprender el panorama completo, debemos mirar más allá de la red y preguntarnos: ¿qué es capaz de hacer esta red?
Internet?!
¿Quién está detrás? ¿Alguien es dueño de Internet? ¿Tenemos que preocuparnos por cómo se administra Internet y podemos confiar en el sistema? ¿Quién se asegurará de que Internet no se utilice para dañarnos? ¿Cómo beneficia más a la sociedad? ¿De qué manera nos ha facilitado la vida? ¿Nuestras vidas se están volviendo menos privadas con Internet, o está haciendo la vida más privada y anónima? ¿Qué pasa con el impacto de Internet en la economía y el empleo? ¿La tecnología hará que nuestros trabajos sean superfluos? Además, ¿somos adictos a Internet o es realmente esta la herramienta más útil para tantos aspectos de nuestra vida diaria? ¿Y nuestra identidad en línea? ¿Qué nos permitirá hacer que yo no pueda hacer hoy y qué tan seguro está de los criminales? ¿Qué pasa con los datos que producimos?
Espera, pero Por Qué?
Demos un paso atrás.
Casi el 55% de la población mundial está ahora conectada a Internet. Si bien los grados de acceso y usos son diferentes, Internet representa una tremenda oportunidad para la humanidad. Mediante la multiplicación de las redes, la posibilidad de conectarse casi instantáneamente a la información y a las personas, Internet ha revolucionado las relaciones humanas y la sociedad, hasta el punto de ser percibida como el espacio para el advenimiento de una sociedad de libertad e igualdad entre todos los seres humanos. . Sin embargo, a medida que la humanidad se beneficia de estos avances, los inconvenientes se vuelven más visibles. La seguridad de los usuarios de Internet, la adicción, la protección de datos y la desinformación son temas sobre los que se deben tomar decisiones políticas que dirijan el futuro de Internet.
El Diálogo Global de Ciudadanos sobre el Futuro de Internet tiene como objetivo poner a los ciudadanos en el bucle de la decisión sobre este futuro, su futuro. Nuestro futuro. Desde áreas altamente conectadas hasta las menos conectadas, cada ser humano se ve afectado de alguna manera por lo que está sucediendo en la red. Este Diálogo involucra a miles de ciudadanos comunes de todo el mundo y cubre docenas de países, con el fin de abrir un canal de comunicación entre usted y los tomadores de decisiones. Es la mayor deliberación ciudadana de la historia. Y el primero en Internet a esa escala. ¡Felicidades!
La razón por la que te invitamos es porque queremos que expreses tus esperanzas, tus temores y tus recomendaciones sobre el futuro que deseas para Internet. Llevaremos los resultados de esta discusión a los tomadores de decisiones y les proporcionaremos materiales de primera clase para apoyar sus discusiones y decisiones. Verán el poder de incluirte en la discusión.
Está invitado a unirse a la conversación global.
Estamos a punto de embarcarnos en un viaje que nos llevará al núcleo de nuestro pasado digital, de regreso al presente y al futuro. Comenzaremos discutiendo qué es Internet para usted y cómo el brote de COVID19 ha afectado su relación con él. Luego nos centraremos en la cuestión de qué es una buena identidad digital. Más particularmente, discutiremos la cuestión de cómo manejar nuestros datos. Luego pasaremos a la discusión sobre el desafío moderno de la información y la discusión en Internet y si podemos o debemos confiar en él. El siguiente tema que llamará nuestra atención es la denominada “Inteligencia Artificial” y su gestión. Finalmente, abordaremos preguntas a largo plazo y hablaremos sobre cómo tomamos decisiones sobre el futuro de Internet.
Resumen Informativo
El texto que tienes en tus manos o en tu pantalla está para guiarte a través de la jungla muy compleja del tema que vamos a discutir. Te ayudarán a comprender los conceptos y las discusiones. No pretenden ser exhaustivos, tienen como objetivo brindarte las herramientas para comprender las principales discusiones que ocurren hoy en día y en los próximos años.
Si son demasiado largos para ti, no te preocupes, tendrás un resumen durante el día de deliberación y el facilitador de tu grupo también los habrá leído.
¡Bienvenido a bordo y gracias por participar!
Qué es Internet?
Internet es una red global que conecta computadoras y dispositivos, y a cada uno de nosotros que usamos Internet. También está en todas partes: desde nuestros hogares y oficinas (¡piense también en electrodomésticos y vehículos!), Hasta espacios abiertos, oficinas gubernamentales y transporte público.
Internet se ejecuta básicamente en tres niveles como se muestra en la siguiente imagen:
La identidad digital en un sentido estricto es toda la información sobre una entidad, utilizada por los sistemas informáticos para representar a una persona, organización, aplicación o dispositivo externo, como una contraseña o una huella digital. Puede utilizarse para crear su identidad en línea en una red social o un blog. Se puede pensar en la identidad digital como una llave y el servicio que uno quiere utilizar en Internet como un candado. La identidad digital en un sentido más amplio es el conjunto completo de características digitales que dejamos en Internet, cada rastro que se produce en línea al utilizar un dispositivo conectado a Internet.
Al igual que su identidad física, su identidad digital consta de mucha información. Y al igual que la identidad física, solo se puede entender correctamente cuando el contexto es claro. Su identidad digital en una plataforma de redes sociales consiste en información distinta a su identidad digital en su institución financiera, o con el Estado, pues contiene otra información. Como puede ver, nuestra identidad digital cambia siguiendo al grupo de interés con el que estamos hablando y por eso tenemos diferentes identidades digitales.
La Internet ha estado entre nosotros casi 50 años
Internet fue inventada por científicos que querían conectar sus computadoras entre sí. Los científicos pronto comenzaron a descubrir el potencial más amplio de este proyecto inicial y encontraron una manera para que las computadoras compartieran información, similar a lo que hacía el telégrafo o el sistema telefónico en los años anteriores. La idea original era que esta red estableciera una red de comunicaciones militares segura y resistente. Con el tiempo, la naturaleza «descentralizada» de la red se hizo evidente: si una parte de la red se estropea, el resto puede seguir funcionando.
Una red de redes
Entonces, ¿cómo se construyó la red? Vincular las computadoras fue relativamente fácil: los cables harían el trabajo. Conectar una computadora en un continente a otra computadora en otro continente, con un océano en el medio, también fue sencillo. Los cables se instalaron bajo el agua en el nivel más profundo, que es por cierto el sistema que todavía utilizamos hoy.
Para que la información pase a través de los cables, los científicos tuvieron que inventar un lenguaje informático que dividiría la información en pequeños trozos, la enviaría a través de cables y la volvería a ensamblar una vez que llegara a su destino.
¿Cómo saben las piezas pequeñas a dónde ir? Los científicos también inventaron una libreta de direcciones para Internet, que nos facilitó dirigir la información a una dirección de correo electrónico específica o solicitar a nuestros navegadores que nos llevaran a un sitio web específico.
Fuente de la imagen: https://www.submarinecablemap.com/
Cómo evolucionó Internet
Gracias a la red, el lenguaje y la libreta de direcciones, hoy podemos utilizar las redes sociales, comunicarnos a través del correo electrónico y otras plataformas, buscar información, escuchar música, ver videos, comprar bienes y servicios… Internet cambió y mejoró el trabajo de las principales industrias, como la manufactura, la salud y el transporte, así como la administración pública y los gobiernos.
¿Cuál es la diferencia entre Internet y la World Wide Web?
Los términos Internet y World Wide Web (www) a veces se usan indistintamente. En realidad, significan cosas diferentes. Internet es la infraestructura que conecta todo; www es solo una de las muchas aplicaciones de Internet que utilizamos para comunicarnos, acceder a sitios web, etc. Piense en el sistema postal: Internet es similar a la red de oficinas de correos y buzones, mientras que www es similar a las cartas y paquetes. enviamos a través del sistema. Al mismo tiempo, www es probablemente la aplicación que hizo crecer exponencialmente el uso de Internet.
Quien tiene acceso?
La mitad de la población mundial tiene acceso asegurado a Internet. Sin embargo, la otra mitad todavía no tiene acceso y, por lo tanto, no puede obtener los mismos beneficios. En varios países en desarrollo, la infraestructura básica, como la electricidad, simplemente no existe. Dado que los recursos de los países pueden ser extremadamente limitados, los gobiernos pueden estar más inclinados a gastar los escasos recursos disponibles para solucionar problemas como la escasez de alimentos o la pobreza. En varios países donde hay una conexión a Internet disponible, el costo del servicio puede ser increíblemente elevado (a veces cuesta el salario de un mes o más). Como las inversiones para construir la infraestructura en estas regiones son elevadas y el marco legal puede ser complicado, las empresas no están dispuestas a reducir los costos de acceso y los gobiernos pueden no estar en condiciones de invertir las sumas necesarias.
Si bien la asequibilidad es el principal desafío, puede resultar sorprendente saber que algunas personas no pueden encontrar contenido en el idioma que entienden (el 50% está en inglés y solo el 2% en chino). Y aunque algunos pueden comprender uno o más de los idiomas más comunes que se utilizan en Internet, los grupos desfavorecidos pueden tener dificultades para aprender a utilizar Internet.
Quien pone a funcionar Internet?
Los gobiernos crean, o adaptan reglas, para permitir el crecimiento del comercio electrónico, para proporcionar al sector privado incentivos suficientes para invertir y para regular otras áreas de Internet. Algunos gobiernos utilizan Internet para lanzar ciberataques o para reprimir a quienes se quejan del comportamiento de sus gobiernos.
La sociedad civil habla en nombre de los usuarios, por lo que las organizaciones de la sociedad civil alertan a los gobiernos y a las empresas de cualquier irregularidad que podamos estar sufriendo o dan la alarma cuando los derechos de los usuarios deben ser protegidos. Algunas organizaciones son más activas que otras.
A través de la investigación, los académicos y sus instituciones contribuyen al analizar temas más allá de los aspectos comerciales. Reflexionan sobre la teoría detrás de cómo funciona todo y, en muchos casos, la aplican a escenarios reales.
La comunidad técnica y el sector privado traspasan los límites de lo que la tecnología puede hacer por nosotros hoy y mañana, y en los próximos 5, 15 o 50 años (piense en la inteligencia artificial o la realidad virtual). A veces, la prisa por lanzar nuevos productos se vuelve tan intensa que otros aspectos, como la posibilidad de que los productos sean pirateados, no se prueban lo suficiente (y es por eso que a menudo la ventana emergente ocasional nos pide que instalemos una actualización de seguridad o un parche …).
Cada una de las partes involucradas, también llamadas partes interesadas (stakeholders), tiene un papel que desempeñar; cada parte interesada también tiene interés en promover objetivos específicos, lo que aumenta la complejidad.
Internet es bueno o malo? Identificano algunos de los principales problemas
En el mundo fuera de línea, muchas de las cosas que usamos en nuestra vida diaria pueden ser utilizadas por malhechores. Por ejemplo, normalmente usamos dinero para comprar bienes y servicios. Pero el dinero puede usarse para explotar a otros o puede ser robado. De manera similar, los niños pueden usar una computadora para aprender cosas nuevas, pero los delincuentes también pueden usarla para hacer un contacto inapropiado con los niños (en realidad, no todos los riesgos se manifiestan). Las redes sociales se utilizan generalmente para comunicarse con familiares y amigos, pero también se pueden utilizar para difundir el odio y acosar a otros.
En el marco del Diálogo Global de Ciudadanos sobre el futuro de Internet, queremos centrarnos en los siguientes temas, que están en el centro del proceso de toma de decisiones y se beneficiarán en gran medida de las voces articuladas de los ciudadanos del mundo, de sus puntos de vista. . Estos problemas son:
“Mis datos, sus datos, nuestros datos”. Esto nos llevará a abordar la siguiente pregunta: «¿Qué debería pasar con los datos producidos por nosotros y otros?»
Asegurar una fuerte esfera pública digital. La pregunta central aquí es: «¿Cómo luchar contra la difusión de información falsa en línea y sus consecuencias?»
Explorando y gobernando la Inteligencia Artificial. La pregunta central aquí será comprender sus esperanzas y temores con respecto a la IA y las prioridades que ve a nivel internacional.
Mis Datos, tus Datos, Nuestros Datos
Dejamos un rastro en línea: datos
Cada vez que abrimos un navegador web, realizamos una consulta de búsqueda, iniciamos sesión en una plataforma de redes sociales o incluso verificamos el clima en línea, dejamos un rastro de migas de pan digitales. Rastreadores de sitios web y cookies que les permiten rastrear cuánto tiempo pasa en una página, cuánto tiempo le toma leer un artículo, qué videos mira, etc. Cada día se crean y almacenan alrededor de 2.5 quintillones de bytes de datos. Eso es el equivalente a aproximadamente una hora de video de alta resolución, para cada persona del planeta, creado todos los días.
Rastreadores Web
Los rastreadores web son fragmentos de código que registran sus preferencias en línea. Un ejemplo famoso de un rastreador web son las «cookies de Internet»: pequeños contenedores de datos que permiten que los sitios web guarden datos sobre usted en su dispositivo. La próxima vez que visite ese sitio, en lugar de volver a conocerlo, recordará ciertas características sobre usted. Otros rastreadores toman la forma de scripts que están ocultos en sitios web, a veces en un solo píxel, y se ejecutan en segundo plano, registrando cosas como su dirección IP. Algunos rastreadores lo siguen de un sitio web a otro y realizan un seguimiento de sus clics y otras actividades a medida que avanza.
Ahora que nuestros dispositivos (domésticos) también están conectados a Internet, ese número solo aumentará. Nuestros relojes inteligentes rastrean nuestros pasos y frecuencia cardíaca y envían esos datos a la empresa que los produjo; Nuestros asistentes de voz escuchan activamente nuestros comandos, registran y almacenan lo que les decimos; Los medidores de energía inteligentes rastrean y almacenan el consumo de energía; Nuestros teléfonos pueden estar grabando silenciosamente nuestras ubicaciones y enviar esos datos a varios desarrolladores de aplicaciones y productores de teléfonos.
La recopilación de datos no es nada nuevo. Durante siglos, los seres humanos han registrado sus historias en las paredes de las cuevas, las han grabado en piedras o las han documentado en papel. Lo que hace que la recopilación de datos digitales sea diferente es que se ha vuelto trivial almacenar grandes cantidades de datos durante largos períodos de tiempo y vincular los datos existentes con nuevas fuentes de datos. En consecuencia, los datos de ubicación que comparte con su aplicación de mapas hoy, podrían usarse para obtener información sobre las rutinas, dentro de años. Y a medida que más de nuestras vidas se han movido en línea, es posible no solo registrar y almacenar nuestros escritos y comunicaciones, sino también recopilar datos sobre la frecuencia con la que nos comunicamos, cuántas veces abrimos un determinado sitio web o buscamos un término específico. . Estos datos sobre datos se denominan metadatos.
De migas de pan a perfiles
Por sí sola, cada ruta de navegación digital revela muy poco sobre ti, pero cuando se juntan pueden usarse para crear perfiles extensos de ti: quién eres, con quién te relacionas, tus preferencias, tus intereses, tus hábitos, los hábitos de tu seres queridos y cómo interactúa con los diversos servicios digitales que utiliza todos los días. Piense en ellos como representaciones virtuales de usted mismo.
¿Cómo surgen esos perfiles? En algunos casos, las plataformas digitales que utiliza para comunicarse con sus amigos, pueden acumular tanta información sobre usted que pueden crear perfiles extensos de usted, sin ninguna fuente de datos externa. Usarán lo que les des en forma de publicaciones, mensajes, me gusta y reposiciones. En otros casos, los llamados corredores de datos recogen los rastros de las migas de pan digitales que dejas en línea y combinan esto con fuentes de datos públicos e información que compran a otros acumuladores de datos, como las compañías de tarjetas de crédito.
Por el momento, tenemos poco control sobre los perfiles que se crean sobre nosotros. A menudo no sabemos quién está creando esos perfiles, si son precisos (a menudo no lo son) y tenemos pocas formas de rectificar los errores que pueden contener. Esto es especialmente problemático cuando estas fuentes de información forman la base para las decisiones sobre si deberíamos poder acceder o no a servicios específicos (préstamos, vivienda, etc.).
Cómo se emplean tus datos
Publicidad
El uso más común de este tipo de perfiles es la publicidad. ¿Alguna vez recibió un anuncio en línea de zapatos, momentos después de buscar un nuevo par de botas en línea? Eso no es un accidente. El rastro de datos que deja en línea se utiliza para descubrir en qué anuncios es más probable que haga clic o qué productos es más probable que compre.
Atención
Las plataformas de redes sociales quieren que te mantengas comprometido y usarán datos sobre ti para entender cómo mantenerte enganchado a su servicio. Según lo que le haya gustado o publicado anteriormente, le ofrecerán el contenido que más se ajuste a sus intereses. Parte de este contenido será pagado por los anunciantes, por lo que la plataforma recibe un pago cada vez que haces clic en él. Esta es una de las razones por las que tantas plataformas pueden ofrecer sus servicios de forma gratuita a usted, el usuario.
Mejorando los productos digitales
Los proveedores de servicios digitales (las personas que crean las aplicaciones que usted usa) también utilizan los datos, entienden sus preferencias y mejoran sus servicios para satisfacer mejor sus necesidades. Por ejemplo, si hace clic en un botón y luego cierra el sitio web, pueden concluir que el botón no funciona correctamente y solucionarlo.
Coordinación
Durante esta pandemia de COVID-19, los gobiernos comenzaron a recopilar datos sobre las tasas de infección y los puntos calientes de COVID-19. Si bien se puede decir mucho sobre la efectividad de dicha recopilación de datos, la sensación general es que saber lo que está sucediendo en el terreno puede ayudar a coordinar las respuestas. Esto también es cierto en otras crisis. Por ejemplo, poco después de un terremoto, la información sobre la densidad de población, o quién estaba en casa cuando ocurrió el terremoto, permite a las agencias de respuesta a desastres asignar eficientemente los recursos disponibles.
Toma de decisiones (automatizada)
Los datos digitales se utilizan cada vez más para tomar decisiones automáticamente. Los algoritmos se pueden entrenar con datos de escaneo ocular para aprender a diagnosticar enfermedades oculares específicas; El reconocimiento facial se usa ampliamente en los aeropuertos para evaluar automáticamente quién es usted; Los proveedores de seguros utilizan datos sobre su nivel de ingresos, sus amigos o el vecindario en el que vive para calcular su prima; Los proveedores de préstamos utilizan datos similares para evaluar su riesgo crediticio.
Si estas decisiones son justas y precisas depende en gran medida de si los datos utilizados son exactos y completos. Por ejemplo, los sistemas de reconocimiento facial entrenados en rostros blancos tienen problemas para reconocer los rostros de las personas de color. O, alguien con un historial crediticio excelente aún puede recibir una mala calificación crediticia cuando vive en un vecindario relativamente pobre. Más sobre eso en la parte sobre Inteligencia Artificial a continuación.
Evaluación de amenazas
Las agencias de seguridad utilizan grandes cantidades de datos personales y agregados para determinar si las personas representan una amenaza para la seguridad nacional. En 2013, los datos filtrados por Edward Snowden revelaron que la Agencia de Seguridad Nacional de EE. UU. Había recopilado una gran cantidad de datos sobre personas que viven dentro y fuera de EE. UU. La NSA dice que necesita estos datos para mantener la seguridad del país. Los defensores de la privacidad, por otro lado, sostienen que esta cantidad de recopilación de datos es invasiva y viola el derecho de los ciudadanos a la privacidad.
Conducta de control
Los datos digitales ayudan a las empresas y los gobiernos a monitorear el comportamiento de los usuarios y los ciudadanos por igual. Dicho monitoreo puede usarse para fomentar ciertos conjuntos de comportamientos (por ejemplo, detenerse en un semáforo en rojo), mientras que previene otros (por ejemplo, publicar fotos de desnudos en las redes sociales o cometer un delito). A veces, el control toma la forma de un suave empujón, otras veces toma la forma de puntajes de crédito social. Un escenario en el que cada ciudadano recibe puntos por comportamientos que se consideran socialmente beneficiosos, mientras que recibe puntos negativos cuando se involucra en comportamientos socialmente inaceptables. Estos sistemas de puntos se pueden utilizar para otorgar a las personas acceso a servicios como vivienda, transporte público o crédito.
Responsabilidad
A veces, necesitamos datos para poder responsabilizar a las personas. Por ejemplo, la información sobre el gasto público nos permite a nosotros, el público en general, detectar la corrupción desde el principio.
Dar sentido a nosotros mismos
Los investigadores, periodistas y otros pensadores confían en los datos digitales para ayudarnos a dar sentido al mundo, las personas, la naturaleza, la sociedad, nuestra historia, etc. Esta investigación, a su vez, nos ayuda a curar enfermedades, definir políticas o crear soluciones novedosas para problemas urgentes.
No todo depende de ti
Es tentador pensar en los datos que compartimos en línea como solo sobre nosotros y como la decisión de compartir cosas sobre nosotros mismos como decisiones conscientes. Pero eso a menudo no es cierto.
Se comparten muchos datos. Tome los datos de ADN, por ejemplo. Puede decidir compartir su ADN con un analista para comprender más sobre su estructura genética. En ese caso, también está revelando datos sobre los miembros de su familia (no nacidos) que comparten su ADN. Y no solo se comparten datos genéticos. Los mensajes que envías a tus amigos, las imágenes que incluyen a varias personas y las historias que creaste como grupo representan instancias de datos compartidos.
Pero incluso cuando los datos realmente se refieren a usted, también se pueden usar para revelar información sobre otros. Si un estudiante de veintitantos años comparte información sobre sus preferencias musicales en línea, estos datos pueden usarse para inferir las preferencias musicales de otros estudiantes de veintitantos años. O bien, los datos sobre sus ingresos pueden usarse para hacer inferencias sobre el nivel general de ingresos en el vecindario en el que vive.
Incluso la decisión de no compartir datos puede terminar afectándote: imagina lo que pasaría cuando todas las personas sanas deciden compartir voluntariamente datos sobre sus patrones de ejercicio diario con las compañías de seguros de salud. Es posible que reciban algunos beneficios a cambio de estos datos. Usted, una persona no tan sana, decide no compartir datos similares por temor a que su proveedor de seguro médico lo tome en cuenta. Sin embargo, al no compartir dichos datos, es posible que su proveedor de seguro médico ya pueda inferir que usted conlleva mayores riesgos de salud y aumenta su prima.
A veces, ni siquiera tienes la oportunidad de decidir si compartir o no datos sobre ti. Hay muchos casos en los que se recopilan datos sobre usted sin su conocimiento. Las cámaras callejeras pueden grabarlo sin que usted se dé cuenta y la mayoría de los metadatos se recopilan en silencio, en segundo plano. ¿Cómo tomamos decisiones sobre este tipo de recopilación de datos?
Por Qué es importante ahora
Los tesoros de datos digitales que recopilamos sobre nosotros mismos y nuestro entorno podrían potencialmente servir a la humanidad y mejorar nuestras vidas. Los datos sobre nuestros comportamientos en línea pueden ayudar a los científicos a predecir; Nuestros datos de conducción ayudan a los ingenieros a construir vehículos autónomos que son menos propensos a causar accidentes; Los datos sobre nuestra salud podrían permitir nuevas herramientas de diagnóstico automatizadas. Pero, como hemos visto, la recopilación y el uso de datos digitales también pueden causar daños tanto a las personas como a la sociedad en general. Por eso es importante para todos nosotros tener voz y voto sobre lo que queremos recopilar, cómo queremos que se usen esos datos y con qué propósito. Y necesitamos tener esa conversación ahora mismo.
¿Por qué? Llegamos a un punto en el que nuestra capacidad para participar en la sociedad depende de nuestro uso de herramientas digitales. Los anuncios de políticas públicas se realizan cada vez más en las plataformas de redes sociales, las reuniones de negocios se han trasladado a Zoom y para inscribirse en eventos a menudo se requiere una cuenta de Facebook. Estas herramientas brindan mucha conveniencia y nos ayudan a conectarnos entre sí incluso cuando las pandemias nos mantienen encerrados en nuestras casas. Sin embargo, nuestra dependencia de estas herramientas para nuestro funcionamiento diario también hace que sea más difícil tomar decisiones reales sobre qué datos sobre nosotros mismos queremos compartir con quién. En otras palabras, la decisión entre compartir datos con una plataforma de redes sociales o perder el acceso a sus amigos puede no ser una decisión real en absoluto.
Al mismo tiempo, nuestros gobiernos, bancos y servicios digitales confían cada vez más en los datos que compartimos en línea para tomar decisiones sobre nosotros: decisiones sobre dónde vivimos, a qué recursos tenemos acceso y si somos elegibles o no para el apoyo del gobierno. Como resultado, para bien o para mal, lo que revelamos sobre nosotros hoy puede tener un impacto significativo en nuestras vidas mañana.
La pregunta entonces es cómo tomamos decisiones sobre estos datos. ¿Cómo capturamos el valor social y económico de los datos que generamos y, al mismo tiempo, reducimos los daños que pueden producir? ¿Quién debería estar a cargo de decidir qué datos se recopilan y utilizan? ¿Debería ser cada uno de nosotros individualmente? ¿Queremos que nuestros gobiernos decidan por nosotros? ¿O debería dejarse en manos de las organizaciones que recopilan los datos?
Asimismo, ¿quién debería beneficiarse de todos estos datos? ¿Deberían ser las empresas las que lo recojan y nos presten servicios gratuitos? ¿O todos estos datos deberían beneficiar ante todo al bien público? ¿Queremos distribuir los beneficios de los datos por igual? ¿O creemos que es justo que algunos reciban una mayor parte del pastel?
Diferentes formas de ver los datos
1. Los datos como recurso privado que puede ser propiedad
Es posible que haya escuchado a la gente decir que los datos son el nuevo petróleo, un recurso que impulsará la próxima ola de innovación. Excepto que mientras el petróleo se extrae del mundo natural, los datos se extraen de los seres humanos y el medio ambiente. Esto plantea la cuestión de quién debería poseer este recurso. ¿Es la persona que lo extrae? ¿O la persona de quien se extrae?
En el primer caso, los datos serían propiedad de las corporaciones y otras entidades que recolectan datos digitales. Estos son los motores de búsqueda, las plataformas de redes sociales y los asistentes de voz. Ellos son los que ponen el dinero y el tiempo para construir las plataformas y, a menudo, ofrecen sus servicios de forma gratuita. ¿Por qué no permitirles que sean propietarios de los datos que recopilan? Y si tuvieran que regalar estos datos, ¿seguirían ofreciendo estos servicios de forma gratuita?
En el segundo caso, los datos serían propiedad de aquellos a quienes se refiere. Estos son los usuarios de las plataformas y los motores de búsqueda. Si las empresas van a ganar dinero con sus datos, ¿no debería usted disfrutar de una parte de las ganancias?
En ambos puntos de vista, los propietarios de los datos deberían tener libertad para decidir quién tiene acceso a sus datos y deberían poder vender sus datos para obtener ganancias. Una vez que se venden los datos, el antiguo propietario pierde el derecho a tomar decisiones al respecto y el nuevo propietario puede tomar esas decisiones. De la misma manera que compramos y vendemos libros, bicicletas o casas.
Las cosas se vuelven un poco más complicadas una vez que consideramos que los datos a menudo se «extraen» de más de una persona o de un proceso. ¿Quién es el propietario de los datos en esos casos?
2. Datos como mano de obra
Esta es una variación del modelo de ‘datos como recurso’ y sostiene que la creación de datos es laboriosa: cuando publica cosas en línea, comparte imágenes o se etiqueta en una publicación, esencialmente está realizando un pequeño trabajo (la creación de datos ) por lo que debería ser compensado.
Esta vista amplía el derecho a la compensación por los datos y los pone a disposición de cualquiera que ayude a crearlos. Sin embargo, dice poco sobre cómo esto se relaciona con el derecho a controlar los datos sobre usted, incluso si es creado por otra persona. Por ejemplo, cuando una persona crea datos escribiendo una historia sobre otra persona, ¿debería compensarse también a esta última?
3. Los datos como nuestro reflejo personal
En lugar de ver los datos como un recurso a explotar, podríamos verlos como un reflejo de lo que se trata. Te ves reflejado en datos sobre ti, tus relaciones se reflejan en los mensajes que escribes, tus patrones de comportamiento se reflejan en la forma en que conduces tu coche por una ciudad. Los datos son como un reflejo en un espejo.
Al considerar los datos de esta manera, resulta más natural preguntar quién debería controlar esta reflexión. Los defensores de los derechos de los datos argumentan que todos deberían tener derecho a decidir qué quieren revelar sobre sí mismos en cualquier contexto. Además, nunca debería poder vender estos derechos vendiendo sus datos. Aquí es donde la visión de los derechos de datos difiere de la perspectiva del «nuevo petróleo»: mientras que los recursos se pueden comprar y vender, los derechos fundamentales son inalienables. Eso significa que nunca podrá venderlos, sin importar cuánto dinero le ofrezcan. Al igual que nunca debería poder vender su imagen reflejada o su sombra.
Aquí también, las cosas se vuelven un poco más complicadas una vez que consideramos que los datos a menudo son un reflejo de más de una persona o un reflejo de un proceso. ¿Quién tiene el derecho a decidir sobre la recopilación, el acceso y el uso de datos en esos casos?
4. Datos como desechos tóxicos
Si bien hay muchas buenas razones para recopilar y utilizar datos digitales, algunos argumentan que lo malo supera a lo bueno. Comparan la recopilación de datos con la acumulación de desechos nucleares. Así como la energía nuclear tiene muchas promesas, es un producto derivado, desechos tóxicos, que es difícil de desechar y tiene una larga vida útil. Lo mismo puede decirse de los datos. Si bien los datos se pueden utilizar para investigaciones que beneficien al bien público, su subproducto en forma de vigilancia y control se considera peligroso (y permanente).
Además del riesgo de vigilancia, la recopilación y el almacenamiento de datos también tienen un impacto en el medio ambiente natural. Algunos expertos han estimado que para 2025, la industria de las comunicaciones representará el 20% de todo el consumo de energía. El almacenamiento de datos y el intercambio de datos entre servicios es una gran parte de ese número. Como resultado, un argumento en contra del almacenamiento y uso de datos es que no tenemos los recursos planetarios para acomodarlos.
Al mirar los datos desde esta perspectiva, el siguiente paso lógico es restringir la creación de datos; Recoger solo lo estrictamente necesario y descartar todo lo demás.
5. Datos como infraestructura
Wikipedia define la infraestructura como «el conjunto de estructuras e instalaciones fundamentales que sirven a un país, ciudad u otra área, incluidas las instalaciones necesarias para que funcione su economía». Estos incluyen carreteras, ferrocarriles, cables de Internet y líneas telefónicas. Dada la importancia creciente de los datos digitales para el funcionamiento de la sociedad actual, no es difícil ver cómo podríamos considerarlos como parte de nuestra infraestructura central.
Desde esa perspectiva, en lugar de dejar que sea el individuo quien decida cómo quiere que se recopilen y utilicen los datos sobre ellos, podemos buscar en comunidades más grandes o gobiernos para determinar colectivamente cómo hacer que estos datos estén disponibles para el bien público. (como pieza central de la infraestructura). Por supuesto, así como las necesidades individuales y comunales deben tenerse en cuenta al construir una carretera, el derecho de una persona a la privacidad, así como las externalidades negativas de la recopilación y el uso de datos, deben tenerse en cuenta al tomar decisiones públicas sobre los datos. Sin embargo, en este escenario, la decisión final recaería en, por ejemplo, los funcionarios electos o las comunidades y redes que dependen de los datos para el funcionamiento de su sociedad o economía.
Una complicación con este punto de vista es que deja impreciso quién debería decidir: ¿deberían ser grupos pequeños de personas (por ejemplo, su familia) que tomen decisiones juntas? ¿O su gobierno nacional? ¿Y las respuestas a estas preguntas cambiarían según el tipo de datos o el caso de uso?
Quien debería beneficiarse?
Si los datos son tan valiosos, importantes, sensibles … ¿Quién debería beneficiarse de ellos? Hay muchas opciones sobre la mesa:
- La persona de la que se tratan los datos: si se utilizan datos sobre mí, deberían beneficiarme y deberían usarse de una manera que me beneficie, incluso cuando eso se produzca a expensas de otra persona. Esta opción asume que los datos siempre son sobre alguien.
- Comunidades: si se utilizan datos sobre mí, deberían beneficiar a mi comunidad y deberían utilizarse de una manera que beneficie a mi comunidad (incluso cuando eso reduzca los beneficios para mí) y minimizar los daños a esa comunidad y sus miembros. Esto supone que podemos definir una comunidad.
- La sociedad en general: todos los datos solo deben recopilarse y utilizarse para fines que beneficien a la sociedad en general y minimicen los daños a la sociedad y sus miembros. Esto supone que la sociedad es relativamente homogénea.
- La entidad que recopila y usa los datos: En este momento, las corporaciones tienen la mayor cantidad de datos. En esta opción, las empresas deben recopilar y utilizar los datos como mejor les parezca. Ellos son los que invierten en nuevas tecnologías y merecen utilizar los datos que recopilan. En esta opción, los datos están en manos privadas. A veces, la entidad recaudadora de ta es una entidad pública.
- Nadie: en primer lugar, no deberíamos recopilar datos en línea.
Y tu?
Hacia una esfera pública digital sólida
Qué es y por que es importante
Una tremena oportunidad
Nunca antes en la historia de la humanidad habíamos tenido acceso a tanta información. Y la forma en que accedemos a esta información ha cambiado enormemente. La cantidad de videos, libros e historias que podemos ver, leer y escuchar se ha disparado. Seleccionamos qué, cuándo y en qué dispositivo vemos y leemos noticias y aprendemos nueva información sobre el mundo y otros en él.
Interactuamos con otros ciudadanos, con nuestro gobierno, con empresas y todo tipo de organizaciones de forma directa y casi sin filtro. No siempre ha sido así.
Desde la “esfera pública” …
Cuando hablamos con nuestra familia y amigos, cuando hablamos con colegas y compañeros, nos convertimos en parte de lo que se puede llamar “público”. Interactuamos con otros y damos y construimos nuestra opinión y puntos de vista sobre asuntos importantes para nosotros y la comunidad. Pero no somos los únicos que lo hacen. Periodistas y gobiernos, empresas y asociaciones también participan en esa discusión sobre el futuro común y sobre temas importantes para la sociedad. O divertido o entretenido. Esto es lo que podemos llamar la «esfera pública». Es un concepto que se ha debatido durante muchos siglos y cuyo significado ha cambiado profundamente con el tiempo.
Tradicionalmente y durante un largo período de tiempo, la esfera pública se definió como “la era de los medios de comunicación”. Esto se refería a que los periódicos, la radio y la televisión eran los principales canales de esta discusión pública sobre el futuro común. Para ilustrar esta situación podemos pensar en una pirámide:
En la parte inferior encontramos «tú y yo», ciudadanos discutiendo en su familia, en el lugar de trabajo, etc. En este espacio todos están «enviando» mensajes (llamémoslo un artista) y «recibiendo» mensajes (llamémoslo un «audiencia»). A eso lo llamamos actuación y papel de audiencia.
En el medio encontramos individuos, grupos y / u organizaciones que se unen en torno a temas específicos, p. Ej. medio ambiente o internet por ejemplo. Estos grupos están más inclinados a enviar mensajes. En su mayoría son «artistas».
En la cima de la pirámide, encontramos “los medios” que producen y distribuyen información y mensajes. Son artistas.
Entonces, si querías discutir sobre algo en gran medida en la sociedad, la única forma era pasar por los medios de comunicación. Y los periodistas jugaron un papel de filtro.
… a la “Esfera pública digital”
La difusión de Internet cambió esta situación por completo: Internet permite que todas las personas publiquen contenidos. Así que todos somos al mismo tiempo público y actor.
Esto es muy interesante ya que rompe la pirámide tradicional de intercambio de información y abre una esfera pública muy vibrante y viva. Podemos comunicarnos directamente con nuestros ciudadanos pares, no solo a nivel local sino global. La información interesante, importante y divertida se puede difundir casi sin costo por todo el mundo.
Por ejemplo, durante la crisis de COVID, las agencias de salud podían entregar datos e información actualizados sobre el brote todos los días, que se transmitían en las plataformas de redes sociales para que miles de millones de usuarios pudieran verlos rápidamente.
Esto también conduce a un desafío central que es el de la calidad de la información: ¿cómo asegurarnos de que lo que leemos y vemos en línea es verdad? ¿Cómo nos aseguramos de que nadie resulte perjudicado cuando esté conectado?
Porque si lo que vemos y leemos online no es de calidad, si podemos ser atacados online, entonces la esfera pública digital deja de ser un lugar para el bien de la Humanidad y se convierte en un lugar tóxico. Un lugar peligroso.
Profundicemos en los principales argumentos, preguntas y controversias.
¿Cómo podemos clasificar la cantidad de información?
La primera gran pregunta es entender qué temas de la enorme cantidad de información en Internet son interesantes para la comunidad en general y deberían compartirse más. Por el contrario, ¿cuáles son poco interesantes o incluso perjudiciales y deberían compartirse menos o nada?
Hoy en día, la principal herramienta que ayuda a responder esa pregunta se llama algoritmo. Un algoritmo es una pieza de software (un programa de computadora) que clasifica los datos automáticamente, sin acción humana. Está escrito por humanos, por supuesto. Pero clasifica los datos por sí solo.
Entonces, en la Esfera pública digital, la conexión entre el productor y el receptor de un mensaje se realiza mediante un programa de computadora. Y una gran parte de esta conexión se realiza a través de las llamadas plataformas de redes sociales y motores de búsqueda.
Esto vuelve a plantear la cuestión del «portero». En la era de los medios de comunicación, los periodistas eran los guardianes. En la era digital, los guardianes son los algoritmos y la empresa que los desarrolla. Esto ha llevado a mucha gente a criticar el poder de las empresas de tecnología y las empresas de redes sociales.
Durante mucho tiempo, esas empresas han considerado que no era su papel verificar el contenido puesto en su plataforma, ya que este contenido fue producido por los usuarios y su libertad de expresión debe ser salvaguardada. Y es verdad. Los usuarios son responsables de su apariencia y apariencia y de lo que publican.
Al mismo tiempo, los recientes escándalos vinculados a los procesos electorales nacionales o la existencia de contenido nocivo y racista en Internet han empujado a empresas como Google, Facebook o Twitter a tomar medidas y afirmar su responsabilidad social y comenzar a monitorear los contenidos puestos en su plataforma para contenido nocivo.
Algunos estados y organizaciones internacionales también han comenzado a regular el espacio digital.
Una esfera pública saludable
Internet llegó para quedarse. Por eso es muy importante definir los límites y las reglas que queremos dar a esta nueva esfera pública digital. Estamos en un momento en el que las reglas se están dando forma, discutiendo, probando y mejorando. Por eso necesitamos su opinión.
¿Qué piensas? ¿Cuál es para ti la diferencia entre público y privado? ¿Existe una limitación clara? ¿Y hay alguna diferencia entre las dimensiones «analógica» y «online»? Según su experiencia como ciudadanos, ¿cómo debería ser una esfera pública digital saludable?
Buenas noticias, malas noticias, noticias falsas, noticias reales
¿Qué es la desinformación y por qué es un problema?
Una pregunta muy importante cuando se habla de la esfera pública digital es lo que a menudo llamamos «noticias falsas» o, para ser más precisos, «desinformación». Se trata de piezas de información que se basan o comunican información empíricamente incorrecta con el objetivo de confundir a los lectores. Pero no toda la desinformación es falsa. Alguna desinformación contiene solo o en su mayoría información correcta, pero la información se usa selectivamente en un intento de cambiar el marco de referencia del debate e influir en la narrativa política de manera selectiva. A esto se le llama desinformación.
La desinformación es un fenómeno muy antiguo. Por ejemplo, ya en 1275, el rey Eduardo I de Inglaterra editó un «acto de habla sedicioso» que prohíbe a cualquier persona «citar o publicar noticias falsas o cuentos en los que la discordia o la ocasión de discordia puedan crecer entre el rey y su gente.»
El problema es que los humanos son especialmente malos para reconocer noticias falsas de noticias reales en ausencia de señales verbales. Sin contexto, estamos perdidos y tendemos a creer cualquier cosa.
Los prejuicios humanos y las deficiencias cognitivas nos hacen susceptibles a contenido que juega con nuestros miedos y parece convencernos de que teníamos razón todo el tiempo («Mira, sabía que el gobierno estaba ocultando algo …», «Mira, sabía que la gente rica puede hacer una excepción …».)
Para empeorar las cosas y como hemos visto antes, la diferencia clave hoy en día es que estamos en una esfera pública digital. Desinformación:
Se puede compartir fácilmente (incluso se puede volver viral, es decir: se puede compartir de forma exponencial, rápida y amplia).
Es instantáneo; En el momento en que hace clic en «enviar», está en línea en todas partes.
Es barato: se puede llegar a una gran parte de la población a un costo mínimo para el proveedor de desinformación.
el anonimato y la falta de interacción cara a cara reduce la voluntad de participar en un comportamiento cooperativo y aumenta el comportamiento y el habla agresivos.
Libertad de expresión y sus límites
La libertad de expresión, garantizada tanto en las constituciones nacionales como en todos los tratados universales y regionales de derechos humanos, constituye uno de los pilares fundamentales de la sociedad y una de las condiciones básicas para el progreso y la realización personal de cada individuo. Es importante señalar que no solo se protegen las informaciones o ideas con las que todos están de acuerdo, que son recibidas favorablemente o consideradas inofensivas, sino también aquellas que pueden ofender, escandalizar o perturbar. A veces, estos incluso necesitan una protección especial. Las ideas cambian con el tiempo y asegurarse de que puedan florecer nuevas ideas puede ser beneficioso para todos.
La libertad de expresión en sí misma es un derecho habilitante clave: tanto en línea como fuera de línea, ya que, para muchas personas, Internet se ha convertido en uno de los principales medios por los que reciben y difunden información e ideas. La actividad generada por el usuario permite un intercambio de ideas sin precedentes, instantáneamente y (a menudo) de forma económica, e independientemente de las fronteras.
La verdad debe reinar libre. Pero necesita ayuda. Como el público global tuvo que aprender, los malos actores utilizaron los servicios de redes sociales en línea para difundir desinformación. Desde Estados Unidos hasta Brasil, desde Indonesia y México hasta Kenia, los agentes de desinformación (algunos que han sido identificados, otros que permanecen en el anonimato) han tratado de influir en la opinión pública y atacar a los críticos.
Sí, idealmente las ideas deberían valerse por sí mismas. Las malas ideas que no mueven al mundo en la dirección correcta deberían, idealmente, caer en desgracia. Pero en tiempos de campañas estratégicas de desinformación, la desilusión de partes de la población con las ideas tradicionales sobre política, la creciente influencia de los manipuladores magistrales en la política y el surgimiento de movimientos nacionalistas en todo el mundo, esto no es suficiente. La verdad necesita ayuda, especialmente porque las mentiras estratégicas a menudo están conectadas (o conducen a) violaciones de los derechos humanos, a menudo a gran escala.
¿Es la desinformación un problema real
Los estudios sobre desinformación llegan a resultados divergentes. Por un lado, el impacto concreto de la desinformación es difícil de precisar, aunque no inexistente. Por otro lado, los actores de la desinformación parecen ocupar una parte desproporcionada de las noticias sobre las prácticas de los medios online. Esto refuerza la impresión de que Internet puede utilizarse como un foro eficaz para la desinformación. Otros argumentan que la principal amenaza de la desinformación es hacer que todos discutan más y confíen menos entre sí (y en las fuentes confiables de noticias).
Por un lado, la confianza en las instituciones tradicionales (médicos, periódicos) disminuye lentamente y la gente comienza a buscar noticias y opiniones alternativas en línea. Por otro lado, la diversidad de noticias y opiniones en línea hace que sea fácil para los lectores ‘escapar’ de noticias que no se ajustan a su opinión y buscar noticias que los hagan sentir seguros y entendidos al reafirmar sus propios sesgos (incluso y especialmente cuando tienen opiniones marginales o minoritarias).
Abordar la desinformación
El rol de los estados y gobiernos
Los Estados tienen la responsabilidad principal y la obligación última de proteger los derechos humanos y las libertades fundamentales, incluso en el entorno digital. Junto con la obligación de respetar sus compromisos en virtud del derecho internacional de los derechos humanos, deben introducir marcos regulatorios, incluidos enfoques de autorregulación o corregulación, que permitan un tratamiento diferenciado de las expresiones en línea, incluidos recursos efectivos y apropiados. Pero, por lo tanto, no es suficiente que los estados no interfieran con la libertad de expresión, los estados también tienen la obligación positiva de proteger los derechos humanos y crear un ambiente seguro y propicio que permita a todas las personas “participar en el debate público y expresar opiniones e ideas sin miedo, incluidos los que ofenden, conmocionan o perturban a los funcionarios del Estado o cualquier sector de la población ”(CoE).
Los Estados, por supuesto, no son los únicos actores que garantizan los derechos humanos en línea. Los intermediarios de Internet también tienen obligaciones en virtud de la legislación nacional e internacional.
Los usuarios de Internet se involucran de manera desproporcionada con contenido sensacionalista. Los jugadores del mercado de la desinformación utilizan los sesgos humanos y las deficiencias cognitivas para atraer a los usuarios en línea a consumir desinformación. ¿Significa esto que los estados deberían prohibir la desinformación y criminalizar a los proveedores de desinformación?
Alguna desinformación ya es ilegal, pero no gran parte de ella. Si se consideran necesarias nuevas reglas que limitan el derecho a difundir falsedades, es necesario considerar los límites a las restricciones a la libertad de expresión.
En este caso, el papel de las plataformas que están distribuyendo la información se vuelve particularmente importante, también cuando los actores estatales se niegan a hacer cumplir los derechos humanos en línea o activar leyes diseñadas para abordar la desinformación y reprimir la disidencia.
El rol de las plataformas
Entonces: ¿Deberían (permitirse) las empresas continuar llevando desinformación, incluso si se comparte ampliamente y genera tráfico a sus sitios y, por lo tanto, se puede monetizar? ¿O es mejor, y más responsable, eliminar rápidamente el contenido que es falso o perjudicial para la cohesión social y claramente dar un paso nuevamente hacia el comportamiento no auténtico coordinado, como las grandes empresas de redes sociales han comenzado a hacer con éxito?
Las personas pueden usar su propia opinión para juzgar la veracidad del contenido. Si se elimina el contenido, puede surgir la impresión de que una plataforma tiene un sesgo político. Si bien las plataformas pueden eliminar contenido según sus términos de servicio, a menudo existe una tensión entre estas y las leyes nacionales que debe resolverse. Parte del contenido es ilegal en ciertos países y legal en otros. Es muy difícil probar que un determinado contenido es incorrecto e incluso si es correcto, puede ser socialmente peligroso si cambia el marco de referencia que contiene solo “verdades” altamente selectivas.
Pero, ¿es una buena idea que las plataformas evalúen la exactitud del contenido y la confiabilidad de sus autores y marquen el contenido como tal? ¿Esto genera más confianza o los usuarios se sienten privados de sus derechos e incluso menos confiados en la plataforma? Eliminar contenido problemático no es la mejor solución.
¿Por qué no cooperar con los verificadores de hechos y proporcionar avisos sobre el contenido que puede ser problemático? Entonces, los lectores pueden ver inmediatamente si una noticia es realmente falsa y qué nivel de confianza merece el autor de una publicación o video. Se puede invitar a los usuarios a contribuir a este ejercicio de verificación de datos. Las empresas de redes sociales pueden usar algoritmos para degradar la información errónea y desincentivar el intercambio. Si los usuarios eligen compartir un contenido problemático, se les notifica de inmediato. Los enlaces pueden llevar a los usuarios a una corrección, como un estudio confiable sobre el tema o un artículo de una organización de noticias establecida.
¿Deben ser responsables los usuarios?
Otra solución es darles la responsabilidad a los usuarios. Al final, cualquier ciudadano debe ser responsable de lo que comparte y ve en línea. Entonces, ¿por qué no concentrarse en educar a los ciudadanos para que sepan cuándo una noticia puede ser desinformación? Si los ciudadanos tienen la posibilidad de denunciar fácilmente contenidos dudosos, tal vez tomen medidas y, a través de la inteligencia colectiva, la desinformación bajará en la calificación de los algoritmos.
Más allá de una posibilidad técnica, los ciudadanos podrían ser apoyados por programas de educación para la “alfabetización digital” que les permitiría juzgar y navegar mejor la información que ven en línea y juzgar mejor el contenido que publican ellos mismos.
¿Qué pasa con la sociedad civil y los medios de comunicación?
Otro enfoque es apoyarse en la red de partes interesadas que trabajan en el dominio de la información. Entonces, tal vez los periodistas deberían ayudar a clasificar el flujo de información. Eso los convertiría de nuevo en guardianes. Pero tal vez también los convertiría en la mejor defensa contra la desinformación. Los periodistas han puesto en marcha iniciativas de este tipo en todo el mundo y han creado plataformas de verificación de datos.
Gobernando la inteligencia artificial
Qué es la Inteligencia Artificial y por qué es importante
Más allá del bombo
La inteligencia artificial (IA) y el aprendizaje automático (ML) son dos palabras que se utilizan mucho en estos días. Estas tecnologías se describen como la solución que salvará al mundo o como el último paso antes del apocalipsis. Pero, para ser verdad, existe una discusión real sobre lo que son estas tecnologías y lo que realmente pueden hacer o podrán hacer en el futuro.
Muchos han intentado definir el término IA, sin embargo, todavía no existe una definición a la que todos estén de acuerdo. A menudo, las definiciones son muy vagas, lo que dificulta comprender de qué se trata realmente la IA. Por ejemplo, en una definición general que se cita a menudo, la IA se describe como «una técnica que permite que los sistemas computacionales imiten cualquier tipo de inteligencia». Simplificado, esto significa que una máquina es capaz de resolver problemas específicos. Si bien existen muchas ideas místicas y de ciencia ficción sobre la IA, hoy en día, los sistemas de IA solo pueden resolver problemas muy bien definidos. Este campo a menudo se denomina IA estrecha. En comparación con la IA estrecha, la IA general se refiere a sistemas que pueden realizar cualquier tarea inteligente que un humano podría realizar.
Debido a que la IA general es aún más ciencia ficción que realidad y muy hipotética, nos ceñiremos a las aplicaciones de IA estrecha que realmente se pueden encontrar por ahí. ¿Por qué es tan difícil encontrar una definición que sea ampliamente aceptada? La razón es que hasta ahora, ni siquiera la inteligencia humana se ha definido adecuadamente. Por no hablar de inteligencia animal. Piénsalo. ¿Qué consideras realmente inteligente? Además del tema de la inteligencia en sí, también hay desacuerdo sobre lo que comprende la IA. Mientras que algunos se refieren a la IA como un enfoque técnico, otros la definen como la combinación de software, hardware y datos. En cualquier caso, la IA comprende varias herramientas y métodos.
Áreas de aplicación actuales de la IA
Veamos brevemente algunas áreas de aplicación con las que puede estar familiarizado.
- Reconocimiento de voz: Siri de Apple y Alexa de Amazon incluyen ambos sistemas inteligentes. Estos sistemas usan IA para reconocer entradas de voz.
- Personalización: varios servicios en línea como plataformas de redes sociales o Netflix y Amazon utilizan IA para personalizar el contenido presentado en las páginas web. Los servicios en línea aprenden de su comportamiento anterior y de otros usuarios, p. Ej. viendo solo thrillers o comprando principalmente novelas de ciencia ficción. En consecuencia, se le recomienda el contenido que probablemente se adapte a sus intereses.
- Filtrado de correo electrónico: los servicios de correo electrónico utilizan IA para distinguir, por ejemplo, entre el correo no deseado y los correos electrónicos relevantes. Algunos proveedores de servicios incluso filtran los correos electrónicos entrantes que consideran publicidad o redes sociales en las respectivas carpetas de correo electrónico.
- Selección de candidatos: algunas empresas que reciben muchas solicitudes de empleados utilizan IA para filtrar las aplicaciones adecuadas de las menos adecuadas. La IA ayuda a realizar una preselección de las aplicaciones entrantes.
- Diagnóstico clínico: en medicina, la IA se utiliza cada vez más para apoyar el trabajo de los médicos en su diagnóstico.
Por supuesto, hay muchas más áreas de aplicación. Algunos de ellos tienen un impacto increíblemente positivo en las personas y la sociedad en su conjunto y brindan grandes oportunidades. En otras aplicaciones, sin embargo, resulta que la IA discrimina y perjudica a ciertos grupos de personas. Ahora veremos por qué tales aplicaciones pueden generar problemas de responsabilidad, sesgo, transparencia, calidad de los datos u otros problemas éticos. Para hacerlo, primero nos centraremos en ML, al que la IA debe su auge en los últimos años.
¿Qué es el aprendizaje automático? (ML)
Como tipo particular de IA, ML es mucho más fácil de definir. ML se refiere a algoritmos y técnicas que aprenden por sí mismos cuando se enfrentan a datos, observaciones e interacciones con el mundo circundante. Lo primero es lo primero.
Los algoritmos son instrucciones para resolver una tarea. Los programadores escriben algoritmos para decirle a una computadora cómo solucionar un problema. Estos algoritmos esencialmente construyen el mundo digital. Dadas las reglas e instrucciones, los algoritmos organizan los datos y nos brindan servicios e información.
Los algoritmos ML son un tipo particular de algoritmo. En lugar de ser programados por programadores humanos, los algoritmos ML aprenden por sí mismos mediante un enfoque estadístico. Esto significa que los algoritmos ML pueden ajustar los parámetros iniciales en respuesta a sus entradas y desarrollar sus propias reglas, mediante la construcción de una representación estadística del entorno que se les proporciona. Estos algoritmos no contienen reglas paso a paso, sino instrucciones sobre cómo «aprender» y cómo anular qué parámetros. Este proceso de aprendizaje a menudo también se denomina entrenamiento de un algoritmo ML. Los algoritmos ML son particularmente buenos para identificar patrones en conjuntos de datos muy grandes, debido a su enfoque estadístico. Esta característica nos permite utilizar las computadoras para nuevas tareas que de otro modo hubieran sido demasiado complicadas o incluso imposibles de codificar manualmente. En la última década, los avances en ML han llevado a grandes mejoras en áreas de aplicación donde los problemas se resuelven mediante la búsqueda de patrones en conjuntos de datos muy grandes, como en los casos de uso mencionados anteriormente o en traducción, reconocimiento de imágenes y muchos más.
Si bien todo ML puede considerarse IA, esta afirmación no es cierta a la inversa. Por ejemplo, una calculadora regular para la escuela es mucho más rápida para calcular ciertas ecuaciones que un ser humano promedio. Por tanto, puede considerarse una aplicación de la IA. Sin embargo, esta calculadora escolar se basa en reglas fijas establecidas por humanos y no puede aprender por sí sola: no son sistemas de aprendizaje automático.
El proceso de aprendizaje automático
Gracias a la red, el lenguaje y la libreta de direcciones, hoy podemos utilizar las redes sociales, comunicarnos a través del correo electrónico y otras plataformas, buscar información, escuchar música, ver videos, comprar bienes y servicios… Internet cambió y mejoró el trabajo de las principales industrias, como la manufactura, la salud y el transporte, así como la administración pública y los gobiernos.
Entonces, ¿cómo funciona el aprendizaje automático? ¿Y qué significa realmente entrenar un algoritmo? No se preocupe, no será técnico. En la siguiente figura, puede ver un proceso de AA simplificado con pasos desde la recopilación de datos hasta la aplicación del algoritmo entrenado en un contexto específico. Si bien existen varios métodos de aprendizaje automático, pasaremos por un método ejemplar para presentar algunos de los procesos que suelen estar implicados. En general, el proceso de AA del método ejemplar elegido se puede dividir en dos fases:
- Primero, se debe entrenar el algoritmo ML. El resultado de este proceso de formación es el modelo ML.
- En segundo lugar, el modelo se implementa en el área de aplicación deseada. El resultado de este paso es una predicción, por ejemplo, la probabilidad de que un paciente tenga un tumor canceroso o la probabilidad de que un solicitante de empleo sea un buen candidato para la empresa.
Veamos estas dos fases simplificadas con más detalle.
En el primer paso de esta fase de formación simplificada, se recopilan datos. Las personas pueden recopilar los datos utilizando varios métodos, por ejemplo, mediante la realización de cuestionarios o la toma de fotografías, o también automáticamente (recopilados o generados) por computadoras.
En el segundo paso, los datos recopilados se procesan si es necesario. Si es así, en esta parte del proceso, los datos relevantes se separan de los datos irrelevantes. Este paso a menudo también se denomina preprocesamiento. El preprocesamiento también puede significar que se aumenten los datos para tener datos más limpios y precisos. El resultado de este paso es un buen conjunto de datos de entrenamiento.
Estos datos de entrenamiento se utilizan luego como entrada para el proceso de entrenamiento real. Durante este proceso, un algoritmo de aprendizaje «aprende» de los datos de entrenamiento ingresados. Aprender aquí se refiere a identificar patrones en los datos de entrada mediante un enfoque estadístico y generar un nuevo conjunto de reglas basadas en los patrones encontrados.
Esencialmente, se crea un nuevo algoritmo. Este nuevo algoritmo es el resultado del proceso de entrenamiento y se llama modelo ML. Un modelo de ML a menudo se denomina caja negra, porque dependiendo del algoritmo de aprendizaje elegido, en realidad es realmente complicado comprender lo que sucede dentro del algoritmo.
Antes de pasar a la implementación de este modelo de ML, una observación más: si entrena un algoritmo de aprendizaje por separado con tres conjuntos de datos diferentes como entrada, recibirá tres modelos de ML distintos. Esto significa que se puede utilizar un tipo de algoritmo de aprendizaje para generar modelos ML para áreas de aplicación muy diferentes, por ejemplo, traducción de idiomas y predicción del mercado de valores.
Una vez entrenado el modelo, se puede implementar. Para esta fase de implementación, se toman como entrada nuevos datos. Entonces ocurre la magia de la predicción: el modelo que ha entrenado hace una predicción sobre la nueva área de aplicación. Aquí, es importante recordar que cualquier predicción siempre se basará en los patrones encontrados en los datos de entrenamiento durante el entrenamiento.
A veces, todo este proceso de AA lo lleva a cabo una sola persona, a veces hay un gran equipo detrás de él. Dependiendo del proyecto, esta fase puede concluir en muy poco tiempo o en mucho tiempo. Además, esto se hace tanto en la academia como en la industria. En realidad, existen bastantes tutoriales, por lo que con la ayuda adecuada también podría entrenar un modelo de aprendizaje automático pequeño (no tan complejo) e implementarlo.
Algunos desafíos del aprendizaje automático
Las aplicaciones de IA se pueden encontrar básicamente en todas partes. Son de gran apoyo y ayudan a hacer la vida más fácil. Las decisiones tomadas por la IA (o sugerencias de decisiones) también pueden tener un impacto grave en la vida de las personas.
En particular, ML puede volverse muy complejo y ofrecer muchas fuentes de error. Por ejemplo, pueden ocurrir errores durante la recopilación de datos; Imagine una recopilación de datos incorrecta o sesgada o una documentación de datos incorrecta. Durante la preparación de datos, los factores relevantes pueden filtrarse incorrectamente. Durante el proceso de entrenamiento, pueden ocurrir errores en la programación real y en la selección de parámetros. Al aplicar el modelo previamente entrenado, puede suceder que los nuevos datos del campo de aplicación no se ajusten a la situación anterior. Por último, los resultados, por supuesto, también pueden malinterpretarse.
A nivel social, un gran peligro es que los datos de entrenamiento utilizados para el proceso de entrenamiento se consideren perfectos. Un conjunto de datos perfecto requeriría que se registraran todos los factores posibles que constituyen o influyen en una situación. En realidad, esto nunca es posible. Los datos son siempre solo una representación simplificada de la situación con un número limitado de factores tomados en cuenta. Este es especialmente el caso cuando se trata de datos sobre nuestras sociedades.
De hecho, los datos que se supone representan a nuestra sociedad siempre incluirán todos los problemas y desigualdades de nuestro mundo, porque simplemente existen. Estas estructuras (o patrones) se aprenden mediante el algoritmo de aprendizaje automático y luego también se reflejan en la predicción final. Esto puede dar lugar a predicciones sesgadas que perjudiquen a los grupos sociales que, por ejemplo, están menos representados en el conjunto de datos, aunque el conjunto de datos pueda representar una sociedad representativa.
En pocas palabras: basura entra, basura sale.
Para el caso de sesgo en ML, esto significa que los datos sesgados también resultarán en predicciones sesgadas. Y debido a que, como se mencionó anteriormente, la fortaleza principal del AA es encontrar patrones en los datos y derivar inferencias, los datos utilizados tienen un papel fundamental para el AA. De hecho, la calidad de los resultados del AA depende en gran medida de la calidad y la cantidad de datos. Para que ML proporcione buenos resultados, es importante que los conjuntos de datos sean lo suficientemente grandes. Por lo general, el tamaño de los datos excede la cantidad de datos que los humanos podrían analizar correctamente. Sin embargo, no siempre es fácil encontrar buenos conjuntos de datos ya disponibles o recopilar buenos datos uno mismo. Este es, por ejemplo, el caso de fenómenos raros o contextos sociales que son difíciles de cuantificar. Cuando los conjuntos de datos no son lo suficientemente buenos o simplemente son demasiado pequeños, los resultados del AA pueden carecer fácilmente de precisión y ser de mala calidad. Curiosamente, muchos avances en los campos de la inteligencia artificial y el aprendizaje automático no se remontan a algoritmos altamente innovadores, sino que se debe a la gran cantidad de datos disponibles que los modelos de inteligencia artificial brindan predicciones prometedoras.
Quien es responsable?
De manera similar a la IA, también ML es un término general y comprende muchas herramientas diferentes, por ejemplo, el aprendizaje profundo. Dependiendo de la herramienta aplicada, es difícil entender cómo un sistema de AA alcanzó un resultado determinado, porque la lógica de los sistemas a veces es difícil de comprender. Este es un problema importante: ¿Quién es responsable (responsable) de los resultados del uso de la IA? ¿Si hay un accidente? ¿Un diagnóstico incorrecto? ¿O discriminación contra alguien?
La transparencia puede ayudar a garantizar la rendición de cuentas, p. Ej. ¿Cómo llegó una aplicación de salud basada en ML a una determinada predicción de enfermedad o por qué el automóvil sin conductor giró a la izquierda y no a la derecha?
Comprender cómo los modelos obtienen sus resultados es importante para determinar la responsabilidad, especialmente en el caso de decisiones incorrectas o un accidente.
Sin embargo, muchos modelos de aprendizaje automático, como los algoritmos de aprendizaje profundo, son muy complejos y más bien cajas negras que algo cercano a la transparencia, lo que hace que, por ejemplo, los problemas de sesgo sean difíciles de resolver. Por lo tanto, si un área de aplicación requiere una forma clara de identificar la responsabilidad, entonces podría ser bueno elegir una herramienta de AA que tenga una lógica menos complicada, aunque potencialmente produzca resultados menos precisos. Además de la complejidad del modelo, también surgen problemas de transparencia con el secreto estatal o corporativo. Muchos procesos de AA son secretos y no pueden ser monitoreados por el público.
Además, los algoritmos ML a menudo solo están entrenados para resolver tareas muy específicas. Pequeños cambios en el problema a resolver pueden venir acompañados de la necesidad de reentrenar el algoritmo para la nueva tarea. A veces, entrenar un algoritmo puede llevar días, por lo que consume mucha energía y tiene un alto impacto ambiental. Para el entrenamiento de algoritmos complejos, una computadora personal normal no es suficiente, porque se necesita mucha potencia computacional.
En conclusión, no todos los contextos, en particular no todas las situaciones sociales, proporcionan buenas condiciones previas para aplicar soluciones de IA. Los datos no son neutrales ni perfectos. Refleja, de forma simplificada e incompleta, las estructuras sociales, incluidos los prejuicios y las desigualdades estructurales. El algoritmo ML aprende de estos patrones y genera resultados basados en estos patrones. Los modelos ML son tan buenos como los datos de entrenamiento en los que fueron entrenados y tan precisos como los individuos que diseñan, programan y aplican el modelo se encargan de su correcto desarrollo y aplicación.
Hacia las reglas para gobernar la IA
Aunque la lista de desafíos descritos anteriormente no está completa, los problemas mencionados ya ejemplifican que alguna forma de gobernanza es necesaria para evitar los efectos negativos de la aplicación de la IA. Hasta ahora, ya ha habido muchas discusiones a nivel nacional sobre cómo debería gobernarse la IA. Varios países publicaron estrategias nacionales de IA y, del mismo modo, casi todas las grandes empresas y ONG publicaron artículos sobre su percepción de las buenas prácticas de IA.
Muchos de estos documentos contienen de hecho muchas ideas y propuestas valiosas. Si bien los aspectos éticos de la IA se han elaborado ampliamente, la implementación de tales principios sigue siendo un gran signo de interrogación y, por esta razón, en el centro de atención de muchas instituciones en la actualidad. Además, se han llevado a cabo debates nacionales, pero Internet, como una de las principales tecnologías que habilitan las aplicaciones de IA, hace de la IA algo global. Por esta razón, un enfoque coherente en lugar de un mosaico de enfoques nacionales (incluidas las leyes de datos o privacidad) podría garantizar que todas las comunidades se sientan beneficiadas por la IA. Dicho esto, la gobernanza de la IA aún se encuentra en una fase inicial y son muy necesarias las discusiones que incluyan a todas las partes interesadas, incluida la industria, los gobiernos y los usuarios.
Nos gustaría presentarle un conjunto de recomendaciones y discutirlas con usted. Elegimos las propuestas de políticas del Grupo de Expertos Ad Hoc (AHEG) de la UNESCO que publicó su borrador de texto de recomendaciones sobre la ética de la IA a mediados de mayo de este año. El grupo formuló las siguientes once propuestas de política, que asignó a cinco objetivos y que deben leerse como recomendaciones de política para los Estados miembros. Elegimos este texto porque la UNESCO es una organización de las Naciones Unidas con cobertura mundial.
OBJETIVO I: Supervisión ética
1. Promoción de la diversidad y la inclusión
La diversidad y la inclusión se refieren a la participación activa de todos los Estados miembros, a la divulgación y el combate de los estereotipos y desigualdades culturales y sociales en el funcionamiento de los sistemas de IA, así como a sus datos de formación, a la posibilidad de que los usuarios denuncien disparidades, a la sensibilización y el respeto de las diferencias y normas culturales locales e internacionales, el cierre de las brechas de diversidad en el desarrollo de sistemas de IA y la difusión de la ética de la IA en todos los foros pertinentes.
OBJETIVO II: Evaluación de impacto
2. Abordar los cambios en el mercado laboral
Con el fin de abordar adecuadamente los cambios en el mercado laboral, los Estados miembros deben proporcionar programas educativos adecuados para todas las generaciones. Esto incluye medidas de mejora y actualización de competencias, pero también reconsideración de los programas educativos en general. Para pronosticar tendencias futuras, los investigadores deben analizar el impacto de la IA en el mercado laboral local. Las empresas, las ONG y otras partes interesadas deben esforzarse por lograr una transición justa de los empleados con más probabilidades de verse afectados por los cambios en el mercado laboral. Finalmente, las políticas deben abordar poblaciones especialmente subrepresentadas para que todos puedan participar en la economía digital impulsada por la inteligencia artificial.
3. Abordar el impacto social y económico de la IA
Para evitar desigualdades, los Estados miembros deben evitar cualquier monopolio relacionado con la IA (por ejemplo, investigación, tecnología, datos, mercado). En cooperación con los socios, la alfabetización en IA debería reducir las desigualdades de acceso digital y la brecha digital. Además, deben introducirse mecanismos de evaluación y seguimiento, así como políticas éticas de IA o certificación de sistemas de IA. Los Estados miembros deben alentar a las entidades privadas a lanzar evaluaciones de impacto, auditoría, monitoreo y medidas de cumplimiento ético, como el intercambio con diferentes partes interesadas en la gobernanza de la IA o la introducción de un responsable de ética de la IA. Además, las estrategias de gobernanza de datos deben garantizar una buena calidad de los datos de formación.
4. Impacto en la cultura y el medio ambiente
Deben incorporarse sistemas de inteligencia artificial para preservar, enriquecer y comprender el patrimonio cultural. Se debe examinar y abordar cómo los sistemas de IA, como la asistencia por voz o la traducción automática, influyen en el lenguaje humano e investigar qué efectos a largo plazo resultan de la interacción con los sistemas de IA. Se debe promover la educación en IA para profesionales de las profesiones creativas, así como la evaluación y el conocimiento de las herramientas de IA para evitar la concentración. Además, se debe evaluar y reducir el impacto ambiental de los sistemas de IA.
OBJETIVO III: Desarrollo de capacidades para la ética de la IA
5. Promoción de la educación y la concienciación sobre ética en la IA
La ética de la IA debe integrarse en los planes de estudio de las escuelas y universidades, por lo que se debe promover la colaboración entre los dominios tecnológico y social. Además, las «habilidades prerrequisito» para la educación en IA deben garantizar la adquisición de habilidades de codificación, alfabetización básica y aritmética. Deben promoverse programas generales de concienciación sobre la IA, así como el acceso al conocimiento sobre desafíos y oportunidades. Además, debería investigarse cómo se puede utilizar la IA en la enseñanza. Las personas con discapacidad, las personas de diversas razas y culturas, así como las mujeres, deberían ser especialmente promocionadas a participar. Las mejores prácticas deben supervisarse y compartirse con otros Estados miembros.
6. Promoción de la investigación ética de la IA
Los Estados miembros deberían invertir en la investigación sobre la ética de la IA o incentivar las inversiones del sector privado. Debe garantizarse la formación en ética de la investigación de los investigadores de IA y la inclusión de consideraciones éticas en el diseño de su investigación y el producto final (incluido el análisis, la anotación y la calidad de los conjuntos de datos y el alcance de los resultados). La comunidad de investigación científica debe recibir el apoyo de los Estados miembros y de la industria facilitando el acceso a los datos. También se debe promover la diversidad de género en la industria e investigación académica de la IA.
OBJETIVO IV: Desarrollo y cooperación internacional
7. Promoción del uso ético de la inteligencia artificial en el desarrollo
Los Estados miembros deberían fomentar el uso ético de la IA. Junto con las instituciones internacionales, deben esforzarse por proporcionar plataformas que permitan la cooperación internacional en el desarrollo de la IA (infraestructura, financiación, datos, conocimiento del dominio, experiencia, talleres). Además, deben promoverse redes y centros de investigación para la colaboración internacional de la investigación de la IA.
8. Promoción de la cooperación internacional en materia de ética de la IA
Los Estados miembros deben realizar investigaciones sobre la ética de la IA a través de instituciones de investigación y organizaciones internacionales. Todas las entidades deben garantizar una aplicación equitativa y justa de datos y algoritmos. Debe fomentarse la cooperación internacional para salvar las diferencias o particularidades geográficas.
OBJETIVO V: Gobernanza para la ética de la IA
9. Establecimiento de mecanismos de gobernanza para la ética de la IA
Los mecanismos de gobernanza de la IA deben ser inclusivos (participación de personas diversas de todas las edades), transparentes (supervisión, verificación de hechos por los medios, auditorías externas, revisiones por foros), multidisciplinarios (examen holístico de los problemas) y multilaterales (acuerdos internacionales). Se debe desarrollar y otorgar acceso a un ecosistema digital para la IA ética, que incluya infraestructura, tecnologías digitales y opciones para compartir conocimientos. Además, se deben desarrollar y utilizar pautas de IA con consideraciones éticas. Eventualmente, se podría desarrollar e implementar un marco legal internacional para fomentar la cooperación internacional entre países y otras partes interesadas.
10. Garantizar la confiabilidad de los sistemas de inteligencia artificial
Los Estados miembros y las entidades privadas deben implementar medidas para monitorear el ciclo de vida de un sistema de inteligencia artificial (datos, algoritmos, actores). Además, se deben establecer requisitos claros de transparencia y explicabilidad de los sistemas de IA en función del dominio de la aplicación, el público objetivo y la viabilidad. Por tanto, los Estados miembros deberían promover especialmente la investigación sobre la explicabilidad y la transparencia mediante financiación adicional. Además, se debe considerar el desarrollo de estándares internacionales para niveles de transparencia a fin de permitir una evaluación objetiva y la determinación del cumplimiento de los sistemas.
11. Garantizar la responsabilidad, la rendición de cuentas y la privacidad
Se deben revisar y adaptar los marcos de gobernanza de la IA para lograr la responsabilidad y la rendición de cuentas por el contenido y los resultados a lo largo de todo el ciclo de vida del sistema de IA. El objetivo más alto es garantizar la responsabilidad por las decisiones de IA, por lo que solo las personas físicas o jurídicas deben ser responsables y tener responsabilidad sobre las decisiones de IA, no los propios sistemas de IA. No se deben establecer normas existentes con actores de todo el espectro del ecosistema de IA. Deben introducirse medidas específicas que aceleren el desarrollo de nuevas políticas y leyes. Los daños causados por los sistemas de IA deben invertirse, repararse y sancionarse. Además, el derecho fundamental a la privacidad debe garantizarse mediante las medidas adecuadas y las personas deben poder aprovechar el concepto «el derecho al olvido», que incluye la posibilidad de supervisar el uso de los propios datos privados y la opción de eliminar eso. Los datos de identificación personal deben estar sujetos a una alta seguridad. Por último, debería adoptarse un enfoque de los datos comunes. Esto promovería la interoperabilidad de los conjuntos de datos y permitiría altos estándares en la supervisión de la recopilación y utilización.
Y tu?
Mirando hacia adelante
¿Quién debería estar a cargo de Internet?
Qué es la «gobernanza» y por qué es importante
La gobernanza se puede definir simplemente como un proceso de toma de decisiones. Tiene dos componentes: quién está involucrado y cuál es el papel de todos.
Por lo tanto, tenemos que entender quién está desempeñando qué papel. ¿Porque es esto importante? Porque las decisiones que se toman tienen un impacto en todos nosotros y en las generaciones futuras.
Con la creciente popularidad de Internet surgieron una serie de problemas. No hay duda de que los problemas actuales de Internet son complejos y están interrelacionados. Por ejemplo, para proteger los derechos de nuestros consumidores, es necesario que exista una legislación que responsabilice a las empresas por cualquier incumplimiento. Los gobiernos deben tener cuidado de que, al mismo tiempo que protegen a los consumidores, no estén reprimiendo los esfuerzos de las empresas para invertir en nueva infraestructura y tecnología, ya que esto impulsa el desarrollo. Las empresas deben poder obtener beneficios, pero esto no debe ir en detrimento de nuestros derechos a la privacidad ni de la seguridad de nuestros datos personales. Si nuestros datos son robados por delincuentes, las fuerzas del orden necesitan herramientas para poder rastrear a los delincuentes en cualquier país en el que se encuentren y llevarlos ante la justicia, respetando nuestra privacidad y la privacidad de nuestras comunicaciones.
De manera similar, mejorar la seguridad de Internet requiere leyes estrictas, agencias de aplicación de la ley bien equipadas, una cultura corporativa de responsabilidad más sólida y campañas para educar a los usuarios sobre cómo protegerse y comportarse de manera responsable en línea. Si solo nos centramos en un aspecto, como es el legal, nos estamos perdiendo otras áreas que también forman parte de la solución.
También hay una cuestión de escala: muchos actores están dispuestos a abordar los problemas a nivel mundial, sabiendo que las soluciones globales ayudan a impulsar el progreso. Esto no es fácil: mientras el gobierno de un país decide las políticas que se aplican a nivel nacional, las políticas regionales y globales requieren un amplio acuerdo. Y por el contrario, muchos temas pueden resolverse mejor a nivel local, con actores desde el terreno.
Gobernanza de Internet 101
Las partes interesadas utilizan diversas herramientas para abordar o gobernar los problemas de Internet y dar forma al desarrollo futuro de Internet. Consultan a otros jugadores, promulgan reglas, usan enormes cantidades de datos para ayudarlos a tomar decisiones acertadas y se basan en experiencias de otras áreas de la vida cotidiana que se rigen de una forma u otra.
Dado que los problemas de Internet son muy complejos, a veces es difícil tomar decisiones. Los gobiernos pueden mostrarse reacios a consultar a otros actores, ya que a menudo sienten que tienen la responsabilidad principal de gobernar Internet. Las empresas a veces utilizan el argumento de la inversión para contrarrestar cualquier intento de los gobiernos de crear nuevas regulaciones. La sociedad civil a veces no comprende que las empresas tienen un objetivo fundamental, el de ganar dinero. La comunidad técnica a veces respalda los argumentos de las empresas simplemente porque muchos «técnicos» son empleados por grandes empresas. Y las propuestas y sugerencias de la academia a veces son difíciles de implementar (aunque pueden verse muy bien en el papel).
A lo largo de los años, los jugadores crearon muchas soluciones para ayudar a superar estos desafíos. Las soluciones suelen estar impulsadas por valores e ideales, como la necesidad de respetar los derechos humanos o la necesidad de hacer que Internet y la tecnología sean accesibles para todos. Algunos de estos ideales se pueden encontrar en documentos o convenciones acordadas por gobiernos de todo el mundo. Otros son desarrollados por organizaciones internacionales y organizaciones de la sociedad civil, basados en conocimientos profundos sobre lo que ha funcionado y lo que no. En resumen, ya existen muchos marcos, modelos y mecanismos para abordar los principales problemas. Y recuerde también: los jugadores tienen sus propias necesidades e intereses, que a menudo están «bajo el capó».
Uno de los mayores mecanismos para la gobernanza de Internet se llama Foro de gobernanza de Internet. Es un proceso bajo el paraguas de las Naciones Unidas que invita a las partes interesadas a nivel local, nacional, regional y mundial a reunirse y debatir sobre la dirección común a seguir. Cada año, durante 15 años, hay una reunión mundial de todos estos actores y muchas reuniones nacionales. Este año, el Foro Global de Gobernanza de Internet se llevará a cabo en línea.
Hasta ahora, los ciudadanos “de la calle”, no comprometidos con los temas, no formaban parte de esa discusión. ¡Esto está a punto de cambiar con el Diálogo Global de Ciudadanos!
We the internet (Nosotros La Internet)
Esperamos que esta sesión informativa le haya brindado una visión general decente de cómo funciona Internet, sus actores, sus roles y las grandes preguntas que están sobre la mesa para los próximos años.
Una cosa segura: cómo evolucionará Internet afectará a todos, incluidos aquellos que aún no están conectados, e incluso a las generaciones futuras.
Es por eso que los ciudadanos deben tener voz y por qué nosotros, como organizadores, coordinadores y socios del Diálogo Global de Ciudadanos sobre el Futuro de Internet, estamos tan contentos de tenerlo a bordo.
Somos Internet.
Léxico
A-C
Algoritmos: proceso o conjunto de reglas que se deben seguir en los cálculos u otras operaciones de resolución de problemas, especialmente en una computadora.
Capa de aplicación: en la programación de redes informáticas, la capa de aplicación es una capa de abstracción reservada para los protocolos y métodos de comunicación diseñados para comunicaciones de proceso a proceso a través de una red informática de Protocolo de Internet.
Navegador: abreviatura de “navegador web”: aplicación de software que se utiliza para localizar, recuperar y mostrar contenido en la World Wide Web, incluidas páginas web, imágenes, videos y otros archivos. El servidor web envía la información al navegador, que muestra los resultados en el dispositivo habilitado para Internet que admite un navegador. Los tres navegadores de escritorio más populares de la actualidad, según Net Marketshare (junio de 2019), son Chrome (66,46%), seguido de Firefox (9,50%), Microsoft Internet Explorer (8,84%) y Edge (4,71%). Otros navegadores importantes incluyen Apple Safari, Sogou Explorer y Opera.
Computación en la nube: práctica de utilizar una red de servidores remotos alojados en Internet para almacenar, administrar y procesar datos, en lugar de un servidor local o una computadora personal.
Chip de computadora: Un pequeño circuito integrado, generalmente instalado en una computadora personal u otros dispositivos electrónicos.
Ciberespacio: el mundo de la informática virtual y, más específicamente, un medio electrónico utilizado para formar una red informática global para facilitar la comunicación en línea. La característica principal del ciberespacio es un entorno interactivo y virtual para una amplia gama de participantes.
Ciberseguridad: cosas que se hacen para proteger a una persona, organización o país y la información de su computadora contra delitos o ataques llevados a cabo a través de Internet. Es la protección de los sistemas conectados a Internet, incluidos el hardware, el software y los datos, de los ciberataques.
Ciberataque: cualquier tipo de maniobra ofensiva que tenga como objetivo los sistemas de información, infraestructuras, redes informáticas o dispositivos informáticos personales.
Sociedad civil: Todos los actores, asociaciones; organizaciones, movimientos, lobbies, grupos de interés, think tanks, etc., más o menos formales, que tienen un carácter no gubernamental y sin ánimo de lucro. Constituye una forma de autoorganización de la sociedad en iniciativas ciudadanas fuera del marco estatal o comercial. Sus objetivos se basan en el interés general o colectivo en diversos campos: sociopolítico, solidario, humanitario, ético, legal, medioambiental, científico, cultural, etc.
D-H
Datos: Los datos son piezas distintas de información, generalmente formateadas de una manera especial. Todo el software se divide en dos categorías generales: datos y programas. Los programas son colecciones de instrucciones para manipular datos. Estrictamente hablando, es una sola pieza de información.
Almacenamiento de datos: El almacenamiento de datos es un término general para archivar datos en formas electromagnéticas o de otro tipo para su uso por una computadora o dispositivo. Los diferentes tipos de almacenamiento de datos juegan diferentes roles en un entorno informático. Además de las formas de almacenamiento de datos duros, ahora existen nuevas opciones para el almacenamiento remoto de datos, como la computación en la nube, que pueden revolucionar las formas en que los usuarios acceden a los datos.
Desinformación: Información falsa que se difunde deliberada y, a menudo, de forma encubierta (por ejemplo, mediante la propagación de rumores) para influir en la opinión pública u ocultar la verdad.
Correo electrónico: El correo electrónico (abreviado «correo electrónico» o, a menudo, «correo electrónico») es un método de almacenamiento y reenvío para redactar, enviar, almacenar y recibir mensajes a través de sistemas de comunicación electrónica.
Noticias falsas: tipo de propaganda que consiste en desinformación deliberada o engaños difundidos a través de los medios de comunicación tradicionales (impresos y de transmisión) o las redes sociales en línea. En los últimos años, el fenómeno de las noticias falsas se ha extendido por la Web. Las noticias falsas se pueden propagar para diferentes propósitos. Algunos están destinados a engañar al lector o influir en su opinión sobre un tema en particular. Otros están hechos desde cero con un título atractivo para aumentar la cantidad de visitantes a un sitio.
Tecnología inalámbrica de quinta generación (5G): La tecnología inalámbrica de quinta generación (5G) es una arquitectura de red inalámbrica que tiene como objetivo aumentar las velocidades de comunicación de datos hasta tres veces en comparación con su predecesor, 4G.
Libertad de expresión: El poder o el derecho de expresar las opiniones de uno sin censura, restricción o sanción legal.
Reglamento general de protección de datos – GDPR: El GDPR es un reglamento en la ley de la UE sobre protección de datos y privacidad para todas las personas dentro de la Unión Europea (UE) y el Espacio Económico Europeo (EEE). El GDPR tiene como objetivo principal dar a las personas control sobre sus datos personales y simplificar el entorno regulatorio para las empresas internacionales unificando la regulación dentro de la UE. El RGPD se adoptó el 14 de abril de 2016 y entró en vigor a partir del 25 de mayo de 2018. Como el RGPD es un reglamento, no una directiva, es directamente vinculante y aplicable, pero proporciona flexibilidad para que determinados aspectos del reglamento sean ajustados por persona. Estados miembros.
Programa Global Entry (EE. UU.): Global Entry es un programa de Aduanas y Protección Fronteriza (CBP) de EE. UU. Que permite el despacho acelerado para viajeros preaprobados y de bajo riesgo al llegar a los Estados Unidos. Los miembros ingresan a los Estados Unidos a través de quioscos automáticos en aeropuertos seleccionados. Los viajeros deben tener una aprobación previa para el programa Global Entry. Todos los solicitantes se someten a una rigurosa verificación de antecedentes y a una entrevista en persona antes de la inscripción y cualquier violación de los términos y condiciones del programa dará lugar a la acción de cumplimiento adecuada y la terminación de los privilegios de membresía del viajero.
Piratería: La piratería generalmente se refiere a la actividad de usar una computadora para acceder a información almacenada en otro sistema informático sin permiso o para propagar un virus informático. La persona involucrada en actividades de piratería se conoce como pirata informático. Pero la piratería también puede referirse a actividades no maliciosas, por ejemplo, ciertas corporaciones emplean a piratas informáticos como parte de su personal de soporte: los piratas informáticos usan sus habilidades para encontrar fallas en el sistema de seguridad de la empresa, evitando así el robo de identidad y otros delitos relacionados con la computadora.
Hardware: Hardware es un término que abarca todas las partes físicas que componen una computadora. Los dispositivos de hardware internos que componen la computadora y aseguran que sea funcional se denominan componentes, mientras que los dispositivos de hardware externos que no son esenciales para las funciones de una computadora se denominan periféricos. Sin ningún hardware, la computadora no existiría y el software no podría usarse. Por ejemplo, una cámara web es un periférico de hardware externo.
Protocolo de transferencia de hipertexto (HTTP): HTTP significa Protocolo de transferencia de hipertexto. HTTP es el protocolo subyacente utilizado por la World Wide Web y este protocolo define cómo se formatean y transmiten los mensajes, y qué acciones deben tomar los servidores web y los navegadores en respuesta a varios comandos.
HTML (lenguaje de marcado de hipertexto): lenguaje de marcado de uso común para crear páginas web y para preparar información para mostrar en un navegador web. Proporciona un medio para describir la estructura de la información basada en texto en un documento indicando cierto texto como encabezados, párrafos, listas, etc. y para complementar ese texto con formas interactivas, imágenes incrustadas y otros objetos. HTML está escrito en forma de etiquetas (conocidas como etiquetas), rodeadas por signos menor que (<) y mayor que (>)
I-O
Gobernanza de Internet: Proceso de toma de decisiones y acciones relacionadas con Internet y su funcionamiento. La gestión de Internet, enfatizando las perspectivas legales, sociales, lingüísticas y económicas de Internet, además de su base técnica.
Protocolo de Internet: Protocolo de comunicaciones que permite asignar un identificador único a una computadora, al que llamamos dirección IP, que identifica la ubicación de un dispositivo en Internet.
Internet de las cosas: propuesto por primera vez por Kevin Ashton en 1999, Internet de las cosas asignaría un identificador único a cada objeto identificable único, sin importar cuán pequeño o grande sea, en una estructura similar a Internet. Es la interconexión a través de Internet de dispositivos informáticos integrados en objetos cotidianos, lo que les permite enviar y recibir datos. En otras palabras, es la materialización de Internet en el mundo real. Se refiere a todos los objetos, automóviles, edificios y otros elementos conectados a una red física de Internet mediante un chip de computadora, sensor, conectividad de red que les permite comunicarse entre sí, recopilar e intercambiar datos.
Derecho internacional de los derechos humanos: El derecho internacional de los derechos humanos se refiere a ese cuerpo de derecho internacional creado para promover y proteger los derechos humanos a nivel internacional, regional y nacional. Son principalmente obligaciones que los Estados están obligados a obedecer. Se compone principalmente de tratados, acuerdos entre estados y derecho internacional consuetudinario. La aplicación del derecho internacional de los derechos humanos puede ocurrir a nivel nacional, regional o internacional.
Motores de búsqueda en Internet: Un sistema de software que está diseñado para realizar búsquedas en la web (búsqueda en Internet), lo que significa buscar en la World Wide Web de manera sistemática información particular especificada en una consulta de búsqueda textual en la web.
Desinformación: información falsa o inexacta.
Enfoque de múltiples partes interesadas: estrategia para fomentar el consenso entre todas las partes interesadas involucradas, incluso con intereses divergentes, para incluir el dominio público, los gobiernos, el sector privado y la sociedad civil. Es una estructura de gobierno que busca reunir a las partes interesadas para participar en el diálogo, la toma de decisiones y la implementación de soluciones a problemas u objetivos comunes.
Mercados en línea: un sitio de comercio electrónico donde empresas de terceros pueden vender sus productos o servicios a los consumidores. Todas las transacciones se procesan a través de los propietarios del sitio web. Los marketplaces online más famosos son Ebay, Amazon, Alibaba, …
S-Z
Redes sociales: Sitios web y aplicaciones que permiten a los usuarios crear y compartir contenido o participar en redes sociales como Facebook, Twitter, Instagram, …
Software: el software, en su sentido más general, es un conjunto de instrucciones o programas que instruyen a una computadora para que realice tareas específicas. Software es un término genérico que se utiliza para describir los programas informáticos. Hay software de sistema, software de programación y software de aplicación. Por ejemplo, Windows, MacOS y Linux y software.
Infraestructura de telecomunicaciones: La infraestructura de telecomunicaciones es un medio físico a través del cual fluye todo el tráfico de Internet. Dado que la infraestructura de telecomunicaciones es predominantemente de propiedad privada, existe una fuerte interacción del sector empresarial, los gobiernos y las organizaciones internacionales en los debates mundiales. Los datos de Internet pueden viajar a través de una amplia gama de medios de comunicación: cables telefónicos, cables de fibra óptica, satélites, microondas y tecnología de telecomunicaciones móviles.
Naciones Unidas: Las Naciones Unidas (ONU) es una organización internacional formada en 1945 para incrementar la cooperación política y económica entre sus países miembros. Además de mantener la paz y la seguridad, otros objetivos importantes incluyen el desarrollo de relaciones amistosas entre países basadas en el respeto de los principios de igualdad de derechos y autodeterminación de los pueblos; lograr la cooperación mundial para resolver problemas económicos, sociales, culturales y humanitarios internacionales; respetar y promover los derechos humanos; y servir como un centro donde los países pueden coordinar sus acciones y actividades hacia estos diversos fines.
Panel de Alto Nivel de la ONU sobre Cooperación Digital: El Panel de Alto Nivel sobre Cooperación Digital, establecido en julio de 2018, fue convocado por el Secretario General de la ONU para promover propuestas para fortalecer la cooperación en el espacio digital entre gobiernos, el sector privado y la sociedad civil. , organizaciones internacionales, el mundo académico, la comunidad técnica y otras partes interesadas relevantes.
Servidor web: los servidores web son computadoras que entregan (sirven) páginas web. Cada servidor web tiene una dirección IP y posiblemente un nombre de dominio. Por ejemplo, si ingresa la URL http://www.example.com/index.html en su navegador, esto envía una solicitud al servidor web cuyo nombre de dominio es example.com. Luego, el servidor recupera la página denominada index.html y la envía a su navegador.
Tecnología inalámbrica: término amplio que abarca todo tipo de tecnologías y dispositivos que transmiten datos por aire en lugar de cables. Con la tecnología inalámbrica las personas u otras entidades pueden comunicarse a distancias muy largas. En el siglo XX se refería principalmente a Radio, Televisión o Satélites. Hoy en día contamos con dos tecnologías inalámbricas principales: las redes WIFI y telefonía móvil.
WIFI (Wireless + Fi): Tecnología que permite que tabletas, consolas de videojuegos, impresoras y teléfonos inteligentes se comuniquen con Internet. Los dispositivos médicos, computadoras portátiles y reproductores de audio digital también usan Wi-Fi.
World Wild Web (WWW): colección de recursos de Internet (como FTP, telnet, Usenet), archivos de texto, audio y video con hipervínculos, y sitios remotos a los que se puede acceder y buscar con navegadores basados en estándares como HTTP y TCP / IP. También llamada web, se creó en 1989 como una forma más fácil de acceder a información dispersa en Internet.