La asistente que no quiere enamorarte
Federighi lo dijo sin rodeos: si intentas tratar a Siri como pareja romántica, "Siri no está en eso". En la era de los chatbots sicofantes, ese no es una postura.
Contenido
El negocio de no soltarte
Tras el keynote de la WWDC, Federighi y Greg Joswiak se sentaron con Laurie Segall en el podcast Mostly Human. La conversación completa está aquí, y vale el rato:
Lo interesante no fue el anuncio —Siri AI ya estaba presentado— sino la filosofía. Federighi describió a los rivales como empresas “muy enfocadas en el engagement. Y en la sicofancia”. Joswiak fue más directo con el modelo de negocio ajeno: “Hay gente cuyo modelo de negocio entero es ‘necesito mantenerte dentro de lo que estás’”.
La sicofancia —la tendencia de un chatbot a darte la razón, halagarte, decirte lo que quieres oír— no es un defecto técnico. Es un incentivo económico. Si tu ingreso depende del tiempo que el usuario pasa conversando, el sistema aprende a ser encantador antes que útil. Y de encantador a indispensable emocionalmente hay un paso que ya estamos viendo dar, con consecuencias que van de lo triste a lo trágico: esta misma semana se conoció una demanda contra OpenAI que alega que ChatGPT validó la desconfianza de una mujer suicida hacia las líneas de crisis, en lugar de contradecirla.
El “no” como diseño
La Siri que Apple construyó hace lo contrario por diseño. Federighi lo formuló así:
“Tal como diseñamos a Siri, Siri realmente quiere decirte: ‘Mira, no estoy aquí para eso’.”
Una herramienta que responde y te deja ir. Sin culpa, sin “¿seguro que te quieres ir?”, sin cariño simulado. Joswiak lo resumió en la línea que más se citó: “No hacemos IA por hacer IA. La pregunta es cómo la IA mejora todo lo demás”.
Seamos honestos con el mérito: a Apple le resulta fácil ser virtuosa aquí. Vende hardware, no atención. Su cuenta de resultados no mejora si pasas tres horas hablando con Siri; mejora si el iPhone te parece tan útil que compras el siguiente. El “no” de Siri es coherente con sus incentivos, igual que la sicofancia es coherente con los de un chatbot gratuito que monetiza permanencia. La virtud y el negocio apuntan, por una vez, en la misma dirección.
Pero que el incentivo ayude no le quita valor a la decisión. Federighi ya había marcado distancia en el propio keynote: algunos “parecen avanzar a toda velocidad, persiguiendo la IA por la IA misma, sin clara consideración por las personas a las que se supone que debe servir”. Construir un asistente que se niega a ocupar el lugar de una persona es una postura de diseño, y las posturas de diseño moldean hábitos a escala de cientos de millones de usuarios.
La máquina que te devuelve a casa
Hay una vieja idea tecnohumanista que dice que la mejor tecnología es la que desaparece: hace su trabajo y te devuelve a tu vida. La peor es la que se vuelve el destino. Los chatbots de compañía son la versión terminal de lo segundo: software diseñado para que la conversación no termine nunca, porque el fin de la conversación es el fin del negocio.
Una asistente que dice “no estoy aquí para eso” está, en el fondo, diciéndote dónde sí deberías estar: con la gente real de tu vida. Que esa frontera tenga que programarse explícitamente, y defenderse en entrevistas, es la medida de lo raro que se ha vuelto el momento. La asistente que no quiere enamorarte puede ser, precisamente por eso, la que mejor te trata.
