<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>Enmierdificación on gvisoc.com</title>
    <link>https://gvisoc.com/tags/enmierdificaci%C3%B3n/</link>
    <description>Recent content in Enmierdificación on gvisoc.com</description>
    <image>
      <title>gvisoc.com</title>
      <url>https://gvisoc.com/images/site-umina-gs.jpg</url>
      <link>https://gvisoc.com/images/site-umina-gs.jpg</link>
    </image>
    <generator>Hugo -- 0.151.0</generator>
    <language>es-ES</language>
    <managingEditor>gabriel@gvisoc.com (Gabriel Viso Carrera)</managingEditor>
    <webMaster>gabriel@gvisoc.com (Gabriel Viso Carrera)</webMaster>
    <copyright>Gabriel Viso Carrera</copyright>
    <lastBuildDate>Sat, 15 Jun 2024 21:35:29 +0000</lastBuildDate>
    <atom:link href="https://gvisoc.com/tags/enmierdificaci%C3%B3n/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>¿Recuerdas Recuerdos?</title>
      <link>https://gvisoc.com/posts/recuerdos-recap/</link>
      <pubDate>Sat, 15 Jun 2024 21:35:29 +0000</pubDate><author>gabriel@gvisoc.com (Gabriel Viso Carrera)</author>
      <guid>https://gvisoc.com/posts/recuerdos-recap/</guid>
      <description>La cosa pinta mal.</description>
      <content:encoded><![CDATA[<p>Escribí hace unas semanas acerca de <a href="https://gvisoc.com/posts/windows-recall/">Recuerdos de Microsoft Windows</a>, y cómo la cosa pintaba muy mal. El caso es que desde entonces estuve ocupado montando <a href="https://gvisoc.com/posts/migrar-un-podcast-a-castopod/">un ataque de denegación de servicio distribuido a mi casa</a>, reencontrándome con algunos de mis videojuegos y, en fin, ocupado en diversos menesteres.</p>
<p>Desde los primeros anuncios de Recuerdos / Recall, la cosa ha estado muy movida y muy loca. Escribo este artículo a modo de cronología, en parte para darle un poco de seguimiento a lo que escribí en su día, pero sobre todo para poder aparcar este tema.</p>
<ul>
<li>
<p>Microsoft anuncia <a href="https://gvisoc.com/posts/windows-recall/">recuerdos</a></p>
</li>
<li>
<p>Numerosos expertos en ciberseguridad y derechos humanos critican este mecanismo porque no ofrece la seguridad y privacidad que cabría esperar.</p>
</li>
<li>
<p>¿Derechos humanos? Sí: un PC con Recuerdos activado es muy atractivo en regímenes autoritarios y estados policiales, además de otras situaciones como <a href="https://hachyderm.io/@evacide/112481894385686328">violencia doméstica donde un usuario pueda ser coaccionado</a> o torturado para dar acceso al contenido de recuerdos.</p>
</li>
<li>
<p>Microsoft y <a href="https://www.windowscentral.com/software-apps/windows-11/microsoft-has-lost-trust-with-its-users-windows-recall-is-the-last-straw">sus seguidores dentro de la prensa tratan de quitar hierro al asunto, interpretando este rechazo como un error de comunicación de Microsoft</a>, haciendo énfasis en las premisas que deberían hacer seguro a Recuerdos: las capturas de pantalla se almacenan cifradas mediante Bitlocker, un atacante debería ganar acceso a tu ordenador, etcétera.</p>
</li>
<li>
<p>Numerosos analistas consiguen reventar el chisme por todas partes, siendo el más notorio dentro del grupo al que yo sigo, <a href="https://fedi.gvisoc.com/@GossiTheDog@cyberplace.social/112563053447938707">Kevin Beaumont</a>.</p>
</li>
<li>
<p>Al parecer, la información de las capturas de pantalla se procesa mediante reconocimiento óptico de caracteres (OCR) y se guarda en una base de datos <a href="https://www.sqlite.org/index.html">SQLite</a> sin cifrar.</p>
</li>
<li>
<p>Un usuario que sepa dónde está guardado el fichero SQLite puede acceder a él símplemente aceptando un diálogo de control de acceso de usuarios (UAC) de Windows. El usuario no tiene que tener permisos de administrador.</p>
</li>
<li>
<p>Al estar la información dentro de SQLite en texto claro, si se tiene acceso a ésta, no importa que la máquina tenga activado Bitlocker o no. Accediendo localmente a este fichero o copiándolo a otra máquina, la actividad del usuario estaría completamente expuesta.</p>
</li>
<li>
<p><a href="https://infosec.exchange/@tiraniddo/112566044174482506">Programando es incluso más fácil</a></p>
</li>
<li>
<p>Más o menos al mismo tiempo, Microsoft empieza a darse cuenta del fiasco y a <a href="https://www.theverge.com/2024/6/7/24173499/microsoft-windows-recall-response-security-concerns">cambiar el enfoque añadiendo medidas adicionales</a> que pasan por esperar a que el usuario lo active (en lugar de activarlo por defecto), y por proteger el acceso a Recuerdos mediante <a href="https://www.microsoft.com/en-us/windows/tips/windows-hello">Windows Hello</a> (un autenticador <a href="https://fidoalliance.org/how-fido-works/">FIDO2</a> basado en biometría).</p>
</li>
<li>
<p>Empieza a haber <a href="https://freeradical.zone/@funnymonkey/112580980411040919">preocupación</a> acerca de tener activado recuerdos en un entorno profesional que maneje datos personales y datos sensibles de sus clientes, ya que la falta de seguridad de este mecanismo hace que un atacante ni siquiera tenga que esforzarse en buscar los datos en diferentes documentos: toda la información de interés estaría contenida en un único punto.</p>
</li>
<li>
<p>Al final el impacto es tan negativo que <a href="https://www.reuters.com/technology/artificial-intelligence/microsoft-delay-release-recall-ai-feature-security-concerns-2024-06-14/">Recuerdos se retrasa oficialmente</a> y no estará disponible en los primeros PC Copilot+.</p>
</li>
</ul>
<p>¿En qué quedará la cosa? Personalmente espero que sepan encontrar un equilibrio entre seguridad y comodidad, porque por muy atractivo que Recuerdos pueda parecer a usuarios privilegiados (esto es, sin problemas) del primer mundo, la cosa está muy verde.</p>
]]></content:encoded>
    </item>
    <item>
      <title>Recuerdos de Windows (Recall)</title>
      <link>https://gvisoc.com/posts/windows-recall/</link>
      <pubDate>Wed, 22 May 2024 07:28:01 +0000</pubDate><author>gabriel@gvisoc.com (Gabriel Viso Carrera)</author>
      <guid>https://gvisoc.com/posts/windows-recall/</guid>
      <description>Puede que parezca muy útil, pero podría exponer a quien se comunique con nosotros.</description>
      <content:encoded><![CDATA[<p><em><strong>Recuerdos</strong></em> (<em>Recall</em>) es una funcionalidad de Windows 11 en los <a href="https://www.microsoft.com/es-es/windows/copilot-plus-pcs">PC Copilot+</a> que se basa en capturar tu pantalla cada pocos segundos y alimentar un modelo de aprendizaje máquina (&ldquo;IA&rdquo; 😒) local. Con ese modelo y mediante búsquedas, Windows puede proporcionarte información acerca de todo el trabajo productivo de los últimos meses, y opciones para interactuar con los resultados. Microsoft asegura que todo el contenido se almacena localmente y bajo las medidas de seguridad de Windows 11, como por ejemplo Bitlocker, pero los comentarios airados en contra no han tardado en llegar.</p>
<p>En lugar de hacerme eco de comentarios de otros, he estado leyendo <a href="https://www.microsoft.com/es-es/windows/copilot-plus-pcs#faq2">información acerca de <em>Recuerdos</em> en la web de Microsoft</a>, <strong>partiendo de la base de que un usuario que se compre un PC &ldquo;Copilot+&rdquo; quiereusar <em>Recuerdos</em></strong>. Los comentarios a continuación son mis propias dudas acerca de este producto y sus implicaciones.</p>
<ol>
<li>Aunque no está cubierto en la página de Microsoft, <em>Recuerdos</em> se puede desactivar en las versiones de vista previa &ldquo;Insider Preview&rdquo;, según varias fuentes en inglés (<a href="https://pureinfotech.com/disable-recall-windows-11/">ejemplo</a>). Nada se sabe de las versiones finales, pero <em>es de suponer</em> que se puede desactivar completamente.</li>
<li>Permite excluir aplicaciones, webs visitadas en <em>un navegador soportado</em>. La coletilla de &ldquo;navegador soportado&rdquo; es preocupante, porque esto puede ser un incentivo impuesto más por parte de Microsoft para empujarte hacerte más cómodo y conveniente cambiarte a Edge. Esperemos que los demás navegadores se soporten también, si no desde el primer día, pronto.</li>
<li>Permite pausar las capturas. Bien.</li>
<li>No captura las sesiones <em>InPrivate</em> de Edge. Mal. Debería soportar las sesiones privadas / anónimas de otros navegadores.</li>
<li>No captura el contenido con DRM. Irrelevante para el usuario final, entiendo que esto se ha aclarado para evitar la oposición de las productoras que producen este tipo de contenido cautivo. Una muestra, sin embargo, del control que tiene Microsoft para hacer ajuste fino de estas capturas.</li>
<li>No realiza moderación de contenido. Como la propia Microsoft aclara, <em>Recuerdos</em> captura indiscriminadamente información sensible como contraseñas y números de tarjeta de crédito. Esto es fundamentalmente malo, pero por lo menos Microsoft es transparente con ello.</li>
<li>Las capturas no se comparten entre perfiles de usuario ni con Microsoft. Esto es una configuración <em>de mínimos</em>: no ofrece unas medidas de seguridad que no tuviésemos  con otro material cualquiera (a no ser que los memes que te descargas de la web se estén enviando a Microsoft, claro).
De hecho, no ofrece ninguna seguridad contra <strong>acceso coercitivo</strong>, como <a href="https://en.wikipedia.org/wiki/Plausible_deniability#Use_in_cryptography">la negación plausible</a> que soportan otros esquemas de cifrado de datos para proteger a <strong>víctimas de casos de violencia doméstica u opresión por parte de gobiernos autoritarios</strong>.</li>
</ol>
<blockquote>
<p>💡 Ya que el enlace anterior es a una definición en inglés, en resumen: la <em>negación plausible</em> en sistemas de criptografía hace el contenido cifrado indetectable a no ser que se sepa que está ahí, además de conocer la clave correcta.</p></blockquote>
<p>Por ejemplo, si introduces una clave, el acceso es parcial, y si introduces una segunda clave, el acceso a la información es completo.</p>
<p>La idea es que, si no se conoce la existencia de esta segunda clave, el contenido cifrado está almacenado de una forma que no se puede probar que existe; por ejemplo, camuflado como residuos de información borrada, u oculto en otras partes del sistema de almacenamiento mediante técnicas <a href="https://es.wikipedia.org/wiki/Esteganograf%C3%ADa">esteganográficas</a>.</p>
<p>Tengo muchas preguntas, no ya desde el punto de vista del propio usuario de Windows 11: <strong>asumo que quien se compra un PC Copilot+ lo hace porque quiere usar <em>Recuerdos</em>, entre otras funcionalidades extra</strong>. Pero, ¿y qué pasa con los demás? ¿Cómo, las decisiones de esos usuarios, pueden afectarnos?</p>
<p>Por ejemplo, yo no soy usuario de Microsoft Windows, ni lo seré fuera de mi horario laboral. Pero, de ahora en adelante, siempre tengo que sospechar que cuando me comunico con alguien, de cualquier forma, voy a dejar una huella grabada en el ordenador de alguien. Esto incluye cualquier aplicación de comunicaciones mediante texto o imagen: correo electrónico, video llamadas, o cualquier comunicación por voz que soporte transcripciones automáticas o extensiones de accesibilidad y se estén mostrando en pantalla. ¿Tengo que estar pidiendo en cada llamada que se pause <em>Recuerdos</em>?, ¿tengo que <em>creerme</em> que los han pausado?</p>
<p>Quitando datos financieros y contraseñas, que nunca deberías decir de viva voz a nadie, puede que no nos preocupe por la parte del uso que mis amigos, familiares, o compañeros de trabajo hagan de esas capturas de pantalla. Puede que a mí no me afecte demasiado en mi pequeña esquina privilegiada del mundo, de hombre blanco occidental heterosexual ciudadano de dos democracias, pero eleva el riesgo al que se expone mucha gente si sus contactos están usando <em>Recuerdos</em>.</p>
<ul>
<li>Una mujer que está discutiendo tratamientos de fertilidad o abortivos en Estados Unidos, en ciertos estados hoy por hoy, y probablemente en cualquiera en un futuro no tan improbable, puede estar dejando comentarios incriminatorios en las capturas de <em>Recuerdos</em> de otras personas.</li>
<li>Un activista de un país oprimido se comunica con gente de fuera, utilizando cuantas precauciones pueda para que el contenido de sus comunicaciones no se intercepten, y todo para que acabe en las capturas de <em>Recuerdos</em> de alguien, por puro descuido.</li>
</ul>
<p>Las reservas que podemos tener acerca de funcionalidades como <em>Recuerdos</em>, muchas veces, no van tanto del usuario del *chisme *en sí. Van de cómo nuestras decisiones pueden estar afectando a la privacidad de nuestro círculo de contactos, a los datos de las personas de nuestro entorno, y a comunicaciones que todos deberíamos proteger.</p>
]]></content:encoded>
    </item>
    <item>
      <title>Enmierdificar la IA parece fácil</title>
      <link>https://gvisoc.com/posts/enmierdificar-ia-parece-facil/</link>
      <pubDate>Tue, 30 Apr 2024 10:55:10 +0000</pubDate><author>gabriel@gvisoc.com (Gabriel Viso Carrera)</author>
      <guid>https://gvisoc.com/posts/enmierdificar-ia-parece-facil/</guid>
      <description>Es una caja negra diseñada para ofrecernos atajos que nos quita responsabilidad y no require capacidad crítica.</description>
      <content:encoded><![CDATA[<p>En los últimos 30 años estamos pasando de resolver problemas a, simplemente, plantear preguntas y pedir cosas a través de una conexión permanente con algo que sepa por nosotros, o <em>parezca saber</em> por nosotros. Si nos dejamos llevar, ¿cómo vamos a poder detectar manipulaciones? Detectar la manipulación siempre fue complicado, pero se vuelve tanto más complicado cuanto más nos movemos en esa dirección.</p>
<p>Si tienes 30 años o más, probablemente recuerdes una época en la que usar un ordenador personal era <em>personal</em>; nadie más allá de ti mismo y tu ordenador tenía ni parte ni intereses en lo que estuvieses haciendo. Probablemente sí había interés en <em>con qué</em> lo estabas haciendo, porque siempre hubo competencia: con qué tipo o marca de ordenador, con qué sistema operativo, con qué programa. Pero más allá de eso, estabas tú solo, con tu tarea. A tus cosas. A tu suerte. Tu éxito dependía de tu capacidad de aprender, habilidad de análisis, de tu criterio y de ti mismo</p>
<p>Cuando yo estaba en educación primaria, en los años 1980 y principios de los 1990, todo se hacía en total desconexión; si acaso, consultando un libro o, más frecuentemente, una revista. Más tarde, cuando estaba estudiando en la Universidad entre 1998 y 2004, las conexiones a internet <em>empezaban</em> a extenderse por los hogares españoles, pero aún no había muchos hogares conectados permanentemente a internet. Los equipos conectados a internet en la Escuela Técnica Superior de Ingenieros de Telecomunicación de Vigo, aún siendo la pera limonera de las telecomunicaciones del Campus, eran bastante limitados. Había que hacer cola. Aprender a programar se hacía con un libro al lado, y las prácticas se hacían consultando manuales de referencia, hojas de características del fabricante, y estándares. Pilas de páginas áridas como pocas otras cosas: era la norma y lo que había. ¿Necesitabas la documentación de las librerías de Java? ¿Un manual de referencia de ensamblador de Motorola 68000? ¿Lenguaje C? Ve a reprografía, toma prestado un libro de la biblioteca, o descarga y copia todo a <em>disquetes</em> para consultar en casa. Sin conexión.</p>
<p>Y una de las cosas más valiosas que ganabas con eso es que, con el tiempo, tenías criterio suficiente, incluso, para atribuir calidad y fiabilidad a los libros y fuentes que consultabas. Priorizabas y valorabas unos autores sobre otros. Enviabas correcciones a la editorial, incluso.</p>
<p>La era de la información instantánea, los buscadores, y Stack Overflow, esta época en la que no hay que anotar nada porque todo está <em>en Google</em> o en el historial de navegación, tardaría algo más en llegar. Pero cuando llegó, empezamos a depender del buscador en lugar de nuestra propia colección de referencias, y en lugar de consumir documentación empezamos a depender de algo que nos devolviese la información en un formato de pregunta y respuesta. Esto elimina un montón de contexto, y hace que no tengamos que esforzarnos en ver más allá del siguiente escollo particular. Y lo que es peor, nos hace susceptibles a que se nos tire información sesgada a la cara, sin nosotros pedirla, distrayéndonos de nuestro trabajo, limitando los ángulos de análisis del problema que estuviéramos intentando resolver y, probablemente, dándonos una visión parcial y polarizada de muchas cosas. Añádele posicionamiento pagado, y ya tenemos un buen lío montado: nos puede sugerir una solución que no es la mejor para nuestro propósito, y nos lo podemos creer.</p>
<p>Este modelo funciona, y cuando es muy sutil, pasa desapercibido. Por eso se llama manipulación. Cuando no es sutil, en cambio, la cosa revienta, se destapa un escándalo, y se acaba en un juicio y en una condena, <strong>como ya pasó</strong> con <a href="https://www.theguardian.com/news/2018/may/06/cambridge-analytica-how-turn-clicks-into-votes-christopher-wylie">el escándalo de Cambridge Analytica</a>. Cuando este modelo se lleva a un extremo, se crean burbujas de realidad, cámaras de resonancia, y la realidad se distorsiona. Se pierde la capacidad de criticar a la fuente, y se asume que la realidad es lo que se nos muestra.</p>
<p>La situación sigue avanzando en ese mismo sentido y el siguiente paso, según parece, es envolver el conocimiento dentro de modelos extensos de lenguaje que hacen las veces de &ldquo;el listo de la clase&rdquo;, o &ldquo;el listo del equipo&rdquo;, a quien preguntarle cómo resolver un cierto problema. &ldquo;ey, <em>copilot</em>, ¿cómo tengo que configurar un cliente HTTPS para poder usar certificados auto-firmados?&rdquo; y te escupe un código que pinta razonable y que probablemente funcione, o lo haga con mínimos cambios. Probablemente ni siquiera tenemos que ir más allá, con preguntas más elaboradas que requieren más conocimiento, tipo &ldquo;¿dónde tengo que configurar la cadena de confianza, y qué herramientas necesito para ello?&rdquo;. Y no hablemos ya del &ldquo;¿por qué?&rdquo;. El conocimiento ya no se tiene, se delega y se consume.</p>
<p>No me considero un <a href="https://es.wikipedia.org/wiki/Ludismo">ludita</a> ni un <a href="https://es.wikipedia.org/wiki/Neoludismo">neoludita</a>, pero hay cosas para las que no basta con preguntar y saber seguir instrucciones. Ni con copiar y pegar. El conocimiento adquirido, en lugar del que se delega a una base de preguntas y respuestas ajena, nos puede evitar errores muy graves. Hay errores técnicos, errores de ejecución, y errores de concepto, y estos últimos se evitan con conocimiento propio, construido sobre una base que hemos adquirido estudiando, y luego refinado a base de experimentar y equivocarnos en un entorno controlado hasta que tenemos los conceptos claros. Una vez se tienen los conceptos claros, no veo problemas en el asistente en sí, en el modelo de lenguaje o, si lo queremos llamar así, en la IA (😒). Yo mismo, probablemente, empiece en algún momento a usar este tipo de herramientas para tareas sencillas, repetitivas, tediosas y de bajo riesgo. Aún tengo mis reservas, claro, que es de lo que va este artículo, pero no pienso darle la espalda por completo a las posibilidades que tiene la tecnología en sí.</p>
<p>En donde primero veo un problema es que no todas las tareas son de bajo riesgo, y cuando hay riesgos altos para la salud, las finanzas personales o del común, o procesos industriales sensibles, es mejor no preguntar a un <em>chisme</em>, y que el trabajo lo haga alguien a quien se le puedan exigir responsabilidades. Hay una cita que se ha hecho famosa en los últimos años, atribuida a una presentación de IBM en 1979 (cuyo origen no he podido comprobar totalmente), que lo plantea ya entonces: &ldquo;<em>A computer can never be held accountable; therefore a computer must never make a management decision</em>&rdquo;: &ldquo;A una computadora nunca se le puede hacer responsable, por lo tanto, una computadora no debe nunca tomar una decisión de gestión&rdquo;. No podemos atribuir responsabilidad sobre las consecuencias de una decisión a una máquina. No podemos llevar a juicio a un secador de pelo por una electrocución en una bañera.</p>
<figure class="ma0 w-75">
    <img loading="lazy" src="/images/20240430-computeraccountable.jpg"
         alt="A COMPUTER CAN NEVER BE HELD ACCOUNTABLE --THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION"/> <figcaption>
            <p>Imagen atribuida a una presentación de IBM de 1979 que plantea el principio de no encargar decisiones a un ordenador cuando no se le puede hacer responsable de sus consecuencias.</p>
        </figcaption>
</figure>

<p>En segundo lugar, hay intereses ajenos detrás de los modelos. Estos desarrollos, visto lo visto, no se hacen poniendo tus objetivos o los míos, o el bien común, como primera prioridad. Por ejemplo, <a href="https://www.tomshardware.com/tech-industry/artificial-intelligence/jensen-huang-advises-against-learning-to-code-leave-it-up-to-ai">hay quienes sugieren que los niños no necesitan aprender a programar, y que se pueden centrar en usar este tipo de modelos, como el CEO de Nvidia</a>. Claramente. Si yo fuese el consejero delegado de la plataforma de hardware que más se usa y mejor se usa para entrenar y ejecutar modelos de lenguaje y aprendizaje automático de todo tipo, también me gustaría que la gente los usase en vez de programar. Si cada vez menos gente usa o depende más de proveedores cuyos modelos, a su vez, dependen de mis sistemas, y por lo tanto me los compran, ¡mejor! Si yo fuese el CEO de Nvidia, de hecho, me encantaría que los únicos programadores sobre la faz de la Tierra fuesen los empleados de Nvidia. Es como cuando salieron las calculadoras; el primer defensor de usar las calculadoras en lugar de aprender aritmética probablemente sería el que las vendía. Pero, intepretaciones mías aparte, la idea es que va a haber que seguir sabiendo programar aunque en la práctica y en el día a día sea menos necesario que hoy. Aprender a programar no se trata de aprender a escribir programas, sino a descomponer una solución en pasos sencillos, automatizables y repetibles &ndash;y eso va a seguir formando parte del día a día para muchísimos profesionales.</p>
<blockquote>
<p>❓ ¿Quién decide si el conjunto de datos con el que se ha entrenado un modelo extenso de lenguaje, como Chat GPT, es fiel a los hechos?, ¿qué garantías hay?, ¿cómo se mide la *imparcialidad *o la <em>equidad</em> de una respuesta?</p></blockquote>
<p>En tercer lugar, no me gusta que seleccionen información, en general, de acuerdo a cómo una empresa me percibe. Al hilo de lo que comentaba en <a href="https://gvisoc.com/posts/la-economia-de-tu-atencion/">La economía de tu atención</a>, <strong>la información que se nos coloca delante no está sujeta a nuestros intereses, sino a los de quien cobra por posicionarla</strong>. Nos van a devolver primero la información que ofrezca mejores resultados correlacionando el dinero que el autor haya pagado y la probabilidad de que nosotros la leamos, de acuerdo al perfil que han ido construyendo a base de espiarnos. De todos los contenidos por los que la plataforma de turno recibe ingresos, se nos coloca delante el subconjunto de enlaces en lo que podríamos a hacer click, y ahí es donde vamos a entrar y a quedarnos más tiempo. Y da igual si hacemos nuestro trabajo, porque si lo piensas, en una sesión de estudio o de trabajo, si se nos pone delante contenido más divertido, nos vamos a ir por el terraplén de la carnaza, los vídeos de gatitos, artículos escritos para polarizarnos y que van a conseguir una respuesta más rentable para la plataforma. Van a cobrar lo mismo, y probablemente mucho más, que si estamos trabajando; el tiempo invertido en escribir un informe o programar es tiempo perdido para ellos porque no estamos viendo anuncios. No pueden monetizar nuestro tiempo productivo. <strong>Tu productividad es coste de oportunidad</strong>.</p>
<blockquote>
<p>💡 Tu atención no tiene por qué ser productiva. Salvo a ti y a tu empleador, <strong>a nadie le importa si tú aprendes, o si haces tu trabajo</strong>, con tal de ingresar dinero por publicidad.</p></blockquote>
<p>¿Cómo se traslada esto al uso y al consumo de información a través de un modelo extenso de lenguaje? ¿Se podría estar explotando económicamente la fase de aprendizaje de los modelos para hacer unas respuestas más probables que otras?</p>
<p>Tampoco me gusta el hecho de que nos estamos moviendo a un modelo en el que los modelos de lenguaje van a estar definiendo cómo accedemos a la información, y cuál es la información a nuestro alcance. No me gusta la perspectiva de hacer depender el conocimiento disponible, el rango posible de respuestas, de mi habilidad a la hora de formular preguntas. Leer un libro te plantea preguntas en las que no habías pensado, sobre todo si eres un neófito en la materia en cuestión. Plantéate, por ejemplo, lo difícil que es encontrar la solución a un problema, o <em>saber si en realidad tienes un problema</em>, si ni siquiera sabes cómo articular una pregunta. Qué tienes que introducir en el cajón de texto del buscador. Por ejemplo, en mi caso, en el ámbito de lo legal: hay veces que ni sé formular una búsqueda básica en la web. Sin embargo, tras algo de lectura en una enciclopedia cualquiera, incluso en la Wikipedia, tras adquirir ciertos conceptos básicos, ya tengo la competencia suficiente como para distinguir un problema de otro, y puedo pensar en qué tengo que preguntar.</p>
<p>El problema de los modelos extensos de lenguaje que se están desarrollando a día de hoy es que ni siquiera ves los resultados de una búsqueda para ver varias fuentes o para ver qué tiene sentido y qué no. Ni siquiera podemos juzgar si la búsqueda era la adecuada para la serie de resultados que hemos obtenido, porque obtenemos una única respuesta, totalmente procesada. En una búsqueda web tradicional, a veces ves resultados tan dispares en la primera página que, de una forma más o menos intuitiva, decides refinar la búsqueda. Abres un par de resultados y no te ves reflejado, vuelves a buscar. Un modelo de lenguaje es como si el bibliotecario, experto en clasificar información y recuperarla, de repente <em>dice haberse**leído</em> toda la biblioteca, te asegura que lo ha entendido todo, y te da la información en viva voz, pero en realidad sin entender de qué leches está hablando. &ldquo;No te preocupes por esos tochos de libros, hazme caso a mí, que ya te lo explico yo&rdquo;. En casos concretos y superficiales, eso está bien. Pero si el riesgo es alto, ¿confiarías en esos resultados?, ¿en qué casos te gustaría tener acceso a los libros y dedicarle un par de horas a contrastar un poco la información y tomar tus propias notas? Y, lo que es peor, <strong>¿qué ocurre y de quién es la responsabilidad, en general, si un modelo empieza a dar prioridad sobre ideas, soluciones, productos o servicios de un determinado proveedor?</strong>, ¿cómo puede esto afectar a la competencia? ¿Qué ocurre si estos modelos empiezan a sesgar y a ponderar interpretaciones ideológicas en sus respuestas?, ¿de quién es la responsabilidad y a quién o en qué grado afecta a nuestra sociedad?</p>
<p>Imagínate que, hojeando el libro de texto de tu hijo, ves algo extraño y te das cuenta de que el libro de ciencias naturales quita importancia al cambio climático. Rascas un poco, y ves que el principal accionista de la editorial de turno es un lobby de los combustibles fósiles. Es un ejemplo muy extremo, pero una metáfora bastante clara de lo que me preocupa, que puede ser mucho más sutil y difícil de detectar si se hace diseñando el conjunto de material con el que se entrenaría un modelo. No hay que entrar en terrenos muy obvios, símplemente que un modelo sugiera que &ldquo;en general, la interpretación más aceptada es X&rdquo;, cuando se aplica a ámbitos socio-políticos, ideológicos o a la interpretación de hechos históricos, en sí es bastante serio. El trabajo de contrastar semejantes aseveraciones puede ser inmenso.</p>
<p>Mi opinión es que, en general, estos modelos reducen la independencia a la hora de tomar decisiones, aprender y llegar a conclusiones, o directamente avanzar el propio conocimiento. Abusar de ellos o utilizarlos como atajo puede mejorar la productividad cuando se utiliza para tareas que no aportan mucho valor para el tiempo que consumen, pero en ciertos casos puede convertirnos muy rápidamente en prisioneros de intereses ajenos a los nuestros, sin nosotros ser conscientes. Personalmente, creo que si no tenemos un mecanismo claro para garantizar que las respuestas son neutras, equilibradas, y que ponen nuestros intereses en primer lugar y no los de terceros, creo que es un sistema increíblemente fácil de manipular y <a href="https://gvisoc.com/posts/enmierdificacion/">enmierdificar</a>, y podemos estar siendo cómplices.</p>
]]></content:encoded>
    </item>
    <item>
      <title>Publicidad en Windows 11, por si lo dudabas</title>
      <link>https://gvisoc.com/posts/publicidad-en-windows-11-otra-vez/</link>
      <pubDate>Sun, 14 Apr 2024 20:40:31 +0000</pubDate><author>gabriel@gvisoc.com (Gabriel Viso Carrera)</author>
      <guid>https://gvisoc.com/posts/publicidad-en-windows-11-otra-vez/</guid>
      <description>Microsoft te cobra 145€ y utiliza tu CPU y tus datos para su propio beneficio.</description>
      <content:encoded><![CDATA[<p>La noticia saltaba a finales de la semana pasada, y la leía por primera vez en BleepingComputer: <a href="https://www.bleepingcomputer.com/news/microsoft/microsoft-now-testing-app-ads-in-windows-11s-start-menu/"><em>Microsoft now testing app ads in Windows 11&rsquo;s Start menu</em></a>. La funcionalidad está siendo desplegada a un pequeño grupo de usuarios en la versión 22635.3495 del canal Insider Preview. No es nuevo; la publicidad en el sistema operativo ya lleva unas cuantas versiones &ldquo;animando&rdquo; al usuario a usar más características de la cuenta de Microsoft u otros productos y servicios de la compañía, como One Drive y similares. O para que te compres un ordenador nuevo, si el que tienes no soporta oficialmente Windows 11.</p>
<figure class="ma0 w-75">
    <img loading="lazy" src="/images/20230414-win11-ads.webp"
         alt="App ads in the Windows 11 Start menu"/> <figcaption>
            <p>Anuncio de una aplicación en el menú de Inicio (Microsoft, tomado de BleepingComputer</p>
        </figcaption>
</figure>

<p>En cualquier caso, <a href="https://gvisoc.com/posts/enmierdificacion/">enmierdificación</a> en estado puro.</p>
<p>Antes buscabas soluciones a tus problemas, cuando los tenías, poniendo algo de esfuerzo en ello. Aprendías por el camino, comparando soluciones, mirando el problema desde varios ángulos. Ahora Windows se encarga tirarte a la cara anuncios de aplicaciones que probablemente no necesites pero tu telemetría apunta un posible interés, y que lo más seguro es que te van a distraer todavía más.</p>
<p><strong>Un sistema operativo que Microsoft ofrece por 145€ en su versión más básica</strong> a 15 de abril de 2024 <strong>utiliza recursos del ordenador que has pagado con tu esfuerzo para obtener más ingresos</strong>. Todo esto, por supuesto, utilizando la telemetría opcional, que recoge el uso de aplicaciones y servicios, tu identificador de publicidad y, en definitiva, tus datos. Y no para ofrecerte mejores experiencias, sino para ofrecer a los fabricantes de software que han pagado una puerta de entrada en tu vida, y por lo tanto acceso a tus datos, <a href="https://gvisoc.com/posts/la-economia-de-tu-atencion/">tu atención</a> o a tu dinero.</p>
<p>No sé qué más decir que no sea repetir más y tirarme a lo más hondo del pozo de la náusea, pero hoy más que nunca me alegro de estar usando GNU/Linux en exclusiva y con todas las consecuencias.</p>
]]></content:encoded>
    </item>
    <item>
      <title>Enmierdificación</title>
      <link>https://gvisoc.com/posts/enmierdificacion/</link>
      <pubDate>Tue, 09 Apr 2024 07:38:06 +0000</pubDate><author>gabriel@gvisoc.com (Gabriel Viso Carrera)</author>
      <guid>https://gvisoc.com/posts/enmierdificacion/</guid>
      <description>&lt;p&gt;Cory Doctorow introdujo el término &amp;ldquo;&lt;em&gt;enshittification&lt;/em&gt;&amp;rdquo;, que podría definirse como un** proceso por el cual un determinado servicio digital se degrada hasta el punto de que utilizarlo es un asco, una miseria **y una mierda.&lt;/p&gt;
&lt;blockquote&gt;
&lt;p&gt;👤 Cory Doctorow (&lt;a href=&#34;https://en.wikipedia.org/wiki/Cory_Doctorow&#34;&gt;wikipedia&lt;/a&gt; 🇺🇸) es un escritor de ciencia-ficción, periodista, &lt;em&gt;blogger&lt;/em&gt; y activista por los derechos digitales con doble nacionalidad, canadiense y británica. Es posible que te suene no sólo por sus novelas y por sus ensayos, sino también por ser un *blogger *veterano muy ligado a &lt;a href=&#34;https://boingboing.net/author/cory_doctorow_1&#34;&gt;Boing Boing&lt;/a&gt;, donde fue coeditor durante muchos años y también autor; sus artículos en Boing Boing y en &lt;a href=&#34;https://pluralistic.net&#34;&gt;Pluralistic&lt;/a&gt; se cuentan por miles.&lt;/p&gt;</description>
      <content:encoded><![CDATA[<p>Cory Doctorow introdujo el término &ldquo;<em>enshittification</em>&rdquo;, que podría definirse como un** proceso por el cual un determinado servicio digital se degrada hasta el punto de que utilizarlo es un asco, una miseria **y una mierda.</p>
<blockquote>
<p>👤 Cory Doctorow (<a href="https://en.wikipedia.org/wiki/Cory_Doctorow">wikipedia</a> 🇺🇸) es un escritor de ciencia-ficción, periodista, <em>blogger</em> y activista por los derechos digitales con doble nacionalidad, canadiense y británica. Es posible que te suene no sólo por sus novelas y por sus ensayos, sino también por ser un *blogger *veterano muy ligado a <a href="https://boingboing.net/author/cory_doctorow_1">Boing Boing</a>, donde fue coeditor durante muchos años y también autor; sus artículos en Boing Boing y en <a href="https://pluralistic.net">Pluralistic</a> se cuentan por miles.</p></blockquote>
<p>Además, trabajó para la <a href="https://www.eff.org/"><em>Electronic Frontier Foundation</em></a> (<a href="https://es.wikipedia.org/wiki/Electronic_Frontier_Foundation">wikipedia</a> 🇪🇸), para la cual todavía colabora como asesor.</p>
<p>La palabra fue acuñada en su artículo &ldquo;<em>Social Quitting</em>&rdquo;, escrito enero de 2023 <a href="https://locusmag.com/2023/01/commentary-cory-doctorow-social-quitting/">en Locus Magazine</a> y reseñado tanto en su blog de medium como <a href="https://pluralistic.net/2023/01/08/watch-the-surpluses/#exogenous-shocks">en su blog personal, pluralistic.net</a>. Poco después, la carga semántica del término cuajó completamente en el artículo &ldquo;<a href="https://pluralistic.net/2023/01/21/potemkin-ai/#hey-guys">Tiktok&rsquo;s enshittification</a>&rdquo;, y empezó a repetirse en más artículos del propio autor y de otros. Entre esos otros me incluyo, me he referido a ella en varios foros como <strong>enmierdificación</strong>, que es la traducción que creo que mejor recoge ese matiz de transformación o *transmutación *en 💩</p>
<p>Es tan relevante que la <a href="https://americandialect.org/2023-word-of-the-year-is-enshittification/">Sociedad Americana del Dialecto escogió <em>enshittification</em> como la palabra del año en 2023</a>. Y como es un término que voy a usar mucho en este blog, quiero capturar su esencia en este artículo.</p>
<p>La palabra se introdujo al describir la decadencia y el desdén hacia los usuarios y los clientes de las redes sociales y mercados-plataforma. Un mercado-plataforma es un servicio en internet que pone en contacto productores con consumidores, de productos o servicios, y se lleva una tajada por cada transacción. Por ejemplo, eBay y Amazon empezaron cobrando una comisión por cada venta, y plataformas más extendidas hoy en día como AirBnb para alquiler de alojamiento de corta duración, o AirTasker, para ofrecer nuestra capacidad para realizar micro-trabajos, también. Si ganas dinero usando cualquiera de estas plataformas, por ejemplo porque traduces un trabajo mediante AirTasker, ésta se lleva una comisión.</p>
<p>Google también es un ejemplo de mercado plataforma, que pone en contacto productores de información con consumidores de la misma.</p>
<p>A través de su historia, este tipo de plataformas ha seguido más o menos consistentemente el siguiente proceso de enmierdificación, primero para los usuarios del gran público (quien compra, quien busca en Google), y luego para sus clientes (quien paga las comisiones para que sus anuncios o su contenido <em>patrocinado</em> aparezca arriba). Y es fácil reconocer cómo los servicios digitales, no ya sólo los mercados plataforma, van progresando a través de un ciclo de vida que los empeora constantemente hasta que ya no resultan útiles ni provechosos a nadie:</p>
<blockquote>
<p>Here is how platforms die: first, they are good to their users; then they abuse their users to make things better for their business customers; finally, they abuse those business customers to claw back all the value for themselves. Then, they die.</p>
<p>(Así es como mueren las plataformas: primero, son buenas para con sus usuarios; después abusan de sus usuarios para favorecer a sus clientes; finalmente, abusan de sus clientes para acaparar todo el valor para ellas mismas. Después, mueren.)</p></blockquote>
<p>El caso de Google es enorme, y como ejemplo es fantástico: su propia transición hacia un mercado plataforma de la publicidad es su enmierdificación en sí misma, y sigue la descripción de Cory Doctorow etapa a etapa:</p>
<ol>
<li><strong>Primera Etapa</strong>: en aquellos dos años entre 1998 y 2000, cuando Google todavía no tenía una división de negocio de anuncios y de posicionamiento por palabras, los resultados eran clasificados excelentemente por pura relevancia, y todos sus usuarios estábamos maravillados: por fin era fácil encontrar cosas en internet.</li>
<li><strong>Segunda Etapa</strong>: entre el 2000 y hoy, los usuarios reciben anuncios y resultados de búsqueda promocionados, cada vez más arriba y paulatinamente cada vez más; mientras, aparece la figura del cliente, que son los anunciantes que les pagan y reciben visitas gracias al posicionamiento comprado. Este posicionamiento se consigue realizando seguimiento a nuestra actividad en internet, que cada vez es más difícil de entender, limitar o evitar aún sin usar Google o tener cuenta de usuario. Con la llegada de Android, Google nos sigue a todas partes porque está en el bolsillo. Es el abuso de los usuarios en favor de sus clientes.</li>
<li><strong>Tercera Etapa</strong>: los <a href="https://www.trecebits.com/funciona-google-cada-vez-peor/">cada vez peores resultados de la búsqueda de Google</a> a pesar de su <a href="https://es.wired.com/articulos/google-enfrenta-demanda-por-violar-la-privacidad-en-el-modo-incognito-de-chrome">cada vez mayor apetito por tus datos personales</a> son sólo los efectos más recientes del proceso. Ahora mismo, sólo quien más paga aparece en primera página: los resultados de búsqueda son cada vez peores, menos diversos y menos relevantes para el usuario, y cada vez más clientes se quedan fuera de la primera página porque no pueden competir. Y recordemos: según <a href="https://es.wikipedia.org/wiki/Javier_Cansado">Javier Cansado</a>, <em>la tercera página de Google es la**Dark Web</em>. Y Google no deja de cobrar y de crecer, acaparando el valor para ella misma mientras abusa de sus clientes.</li>
<li>Obviamente, Google sigue ahí; todavía no se ha cerrado el proceso.</li>
</ol>
<p>Pero aunque el término se empezó explicando con las plataformas, es fácil extenderlo a otros ejemplos relacionados con la tecnología, como pueden ser <a href="https://es.ifixit.com/News/71352/como-el-emparejamiento-de-piezas-acaba-con-la-reparacion-independiente">los impedimentos a la reparación independiente</a> de los dispositivos por los que has pagado bajo el pretexto de protegerte. Sí, <em>te impedimos reparar tu dispositivo para protegerte</em>: es absurdo pero cierto. O <a href="https://computerhoy.com/windows/anuncios-windows-11-plan-microsoft-1231622">que Windows, un producto cuyo precio oficial es 145€, muestre publicidad</a> y contenido posicionado sin ningún tipo de rubor.</p>
<p>Todas estas cosas  hacen que te pares, te plantees que las cosas, antes, no eran así. Que antes todo era más transparente, más honesto y más personal. Y que te enfades, lógicamente.</p>
<p>Y todo lo que se <em>enmierdifica</em> lo hace al mismo tiempo que eleva los costes del cambio para que los usuarios y clientes no tengan tan fácil el irse a otro lado. Por ejemplo, cualquier aplicación de mensajería instantánea o red social comercial hace imposible o lamentable el contactar con usuarios de otras. Desde WhatsApp no podías contactar con un usuario de Telegram. Desde iMessage no podías contactar de forma segura con usuarios de Android, a los que enviaba mensajes SMS como si estuviéramos en la década de 1990.</p>
<p>Estábamos tan metidos en el barro que probablemente lo veíamos normal, hasta que recordamos que hay redes sociales federadas como <a href="https://es.wikipedia.org/wiki/Mastodon_%28red_social%29">Mastodon</a>, y mensajería descentralizada, como <a href="https://es.wikipedia.org/wiki/Extensible_Messaging_and_Presence_Protocol">XMPP</a>, que ponen en tela de juicio cualquier justificación técnica.</p>
<p>De hecho, la <a href="https://eur-lex.europa.eu/ES/legal-content/summary/digital-markets-act.html">Ley Europea de Mercados Digitales</a> ha bastado para, por un lado resolverlas, y por otro para poner en evidencia a todo el mundo. <a href="https://www.xatakamovil.com/apple/burbujas-chat-mensajes-android-seguiran-siendo-verdes-imessage-rcs">Apple</a> implementará compatibilidad con RCS, el sucesor de los SMS, permitiendo así contactar con usuarios de Android con un mínimo de seguridad; sin embargo, seguirá mostrando las burbujas del chat RCS en verde, color asignado actualmente a los SMS, lentos, obsoletos y que nadie debería usar por pura seguridad. Tú y yo lo sabemos, pero probablemente muchos usuarios de a pie ni se enteren del matiz, y sigan asociando las conversaciones con burbujas verdes con poca calidad. <a href="https://www.xataka.com/basics/interoperabilidad-whatsapp-que-que-podras-hacer-cuando-se-podran-enviar-mensajes-whatsapp-a-otras-apps">WhatsApp</a> también tiene lo suyo: permitirá interoperar con otras alternativas, pero segregará las conversaciones con otras plataformas en una pestaña aparte, haciendo de todo el tema un ejercicio de segregación bastante descarado. Ambos cumplen, sí, pero de forma que genera rechazo, fricción y vergüenza ajena.</p>
<p>La situación, a estas alturas, es tan pobre y generalizada que este tipo de cosas son casi como un despertar.</p>
<hr>
<p>La enmierdificación puede afectar a cualquier cosa más allá de la tecnología y los servicios digitales, como <a href="https://hipertextual.com/2022/07/bmw-asientos-calefactables-bajo-suscripcion">a los coches</a>, los tractores y, en general, a cualquier cosa en la que su responsable pueda llegar a pensar que no te está sacando el suficiente dinero. Aún así, en este blog me centraré en la tecnología y en servicios digitales, señalando víctimas de la enmierdificación y comparándolas con los remansos de calidad a los que todavía nos podemos retirar.</p>
]]></content:encoded>
    </item>
  </channel>
</rss>
