Vender datos de usuarios a empresas de inteligencia artificial (IA) es simplemente una vigilancia masiva bajo una nueva apariencia. La gente está, con razón, preocupada por la vigilancia masiva gubernamental. Sin embargo, la mayoría de las personas desconocen alegremente la vigilancia a la que se someten cuando abren una cuenta en una empresa Web 2.0.
Harry Halpin es el director ejecutivo y cofundador de Nym Technologies.
Recientemente, todos nos vemos obligados a firmar nuevos "términos de servicio". Lo que la mayoría de la gente no sabe es que estos contratos permiten vender sus datos sin procesar para entrenar modelos de IA. El último de estos nuevos robos de datos se produce entre Reddit y Google, donde Reddit proporciona datos en tiempo real a Google por supuestamente 60 millones de dólares.
Esto me afecta personalmente. El fallecido Aaron Swartz, cofundador de Reddit, se revolvería en su tumba si supiera de este acuerdo.
Así como el verde soja terminó estando hecho de personas, los modelos de IA en realidad están hechos de datos creados por humanos. Cada vez que aportas datos a una plataforma como Reddit o Instagram, la empresa los captura y los posee. Luego podrán venderlo todo en las condiciones que usted haya “consentido”. Por supuesto, ONE lee estos términos: son largos, tediosos y, a menudo, deliberadamente inescrutables.
Los modelos de IA generativa compiten con los datos de entrenamiento y cuantos más datos, mejor. Sin embargo, algunos de estos datos pueden tener derechos de autor o incluso ser personales. No es de extrañar que haya muchas demandas de empresas como el New York Times contra OpenAI . Si bien es cierto que los modelos de IA solo KEEP modelos estadísticos de los datos, el mensaje correcto puede generar los datos subyacentes reales. Esto, a su vez, puede revelar información potencialmente privada.
Una situación más segura para todos sería si las empresas de IA se capacitaran únicamente con datos disponibles públicamente y en los que el creador de los datos diera su consentimiento, lo que sólo puede ser significativo si el usuario controla sus datos.
El verdadero problema es que cuando colocas datos en sitios de redes sociales como Reddit, tus datos se convierten en el producto. Entonces, aunque usted esté creando los datos, no tiene control ni propiedad sobre ellos. Al utilizar la aplicación, ya ha "consentido" legalmente su propia vigilancia para Para ti disfrutar del privilegio "gratuito" de utilizar la plataforma.
La idea general de Web3 era que los usuarios –no las plataformas– serían propietarios y controlarían sus datos, incluso si, como una publicación de Reddit, deberían ser públicos. La propiedad podría inscribirse criptográficamente en una cadena de bloques descentralizada para que ninguna plataforma pueda vender sus datos sin su permiso.
Claro, la IA es apasionante, pero parece que hemos olvidado esta visión en la que los usuarios son remunerados por sus propios datos. Aunque Reddit eliminó su programa de puntos comunitarios tokenizados en octubre pasado, ¿realmente queremos tirar esta visión por la ventana para dar la bienvenida a nuestros nuevos señores de la IA?
Ver también: Lo que dice la presentación de IPO de Reddit sobre la regulación de las Cripto | Opinión
Aaron Swartz, cofundador de Reddit a través de una historia retorcida con Infogami e Y Combinator, fue el mayor niño prodigio de la generación de Internet. Lo conocí a través de su trabajo de estándares sobre la descentralización de las redes sociales con RSS y la Web Semántica en el Consorcio World Wide Web del MIT, donde trabajé en WebCrypto y estándares relacionados.
Aaron era un programador increíblemente amable y reflexivo. Es más conocido por su impulso para abrir al público los datos gubernamentales y de investigación. Sin embargo, Aaron también fue un firme defensor de la Privacidad personal. Estaba interesado en descentralizar Wikileaks a través de su trabajo en DeadDrop (más tarde SecureDrop), e incluso usar una cadena de bloques para descentralizar los nombres de dominio.
Después de vender Reddit, Aaron estaba convencido de que el futuro requeriría un cambio político desde dentro del gobierno de Estados Unidos. Sin embargo, el mismo sistema político que esperaba reformar lo llevó al suicidio cuando el gobierno lo acusó de 50 años de prisión por usar computadoras del MIT para acceder y descargar una enorme cantidad de artículos académicos pagados para compartirlos libremente.
Sospecho que, al igual que yo, Aaron estaría personalmente entusiasmado con la IA. También creo que apoyaría un mundo donde las pruebas de conocimiento cero y las redes mixtas defiendan a los ciudadanos contra la corrupción gubernamental y la extralimitación corporativa. Él querría un mundo donde los datos financiados con fondos públicos sean de libre acceso y uso, pero donde la gente común tenga la opción de proteger y controlar sus propios datos.
Como dicen los cypherpunks: “Transparencia para los poderosos, Privacidad para los débiles”.