¿Quién es el espectador imparcial del algoritmo?

Un profesor mío insistía, clase tras clase, en que la economía era hija de la filosofía liberal, Adam Smith enseñó filosofía moral en Glasgow, y se preguntaba cómo un hombre, movido por el interés propio, podía aun así juzgarse desde fuera, de dónde salían la simpatía y la vergüenza cuando nadie vigila, qué queda de una sociedad si esa voz se apaga.

Adam Smith escribió dos libros, y la economía decidió leer solo uno, en La riqueza de las naciones encontramos la mano invisible, en la Teoría de los sentimientos morales una figura menos citada y quizá más urgente, el espectador imparcial, esa voz que nos mira como nos miraría un tercero desinteresado, y para Smith el mercado funcionaba porque descansaba sobre un fondo moral que él mismo no producía, confianza, sentido de lo justo, cierta vergüenza ante el abuso.

Hoy la inteligencia artificial reescribe la teoría de precios, ¿qué queda de ese espectador, todavía nos mira, o ya no hay nadie en ese lugar? Los manuales de microeconomía describen la discriminación de precios de primer grado, cobrarle a cada persona exactamente lo máximo que está dispuesta a pagar, como un caso
límite, casi imposible, porque nadie conoce esa disposición, con suficientes datos ese caso límite empieza a ser posible, el algoritmo infiere cuánto valoramos un bien por la ubicación, el historial o la urgencia con la que buscamos, eso que la Comisión Federal de Comercio de Estados Unidos ya estudia bajo el nombre de precios de vigilancia, y el excedente del consumidor puede quedar, casi entero, del lado del vendedor, ¿qué queda, entonces, de esa ganancia que el manual nos atribuía?

En 2020, en un mercado simulado, unos algoritmos de aprendizaje aprendieron, sin comunicarse entre sí, a sostener precios altos y a castigar a quien los bajaba, colusión sin acuerdo y sin que nadie les ordenara coludir, ¿quién responde, si el derecho de la competencia se construyó para sancionar pactos entre personas?

Se ha dicho, durante décadas, que el dinero liberó al individuo porque volvió impersonal el intercambio, que ante un precio único todos éramos anónimos e iguales, y qué queda de esa igualdad cuando el precio se escribe para uno solo, vuelve a importar quién eres, no como persona, sino como perfil, un regreso a lo premoderno, mediado por datos, hecho con la cortesía de una “oferta pensada para ti”.

La razón ya no nos limita con prohibiciones, sino con sugerencias, ¿y quién se avergüenza de una sugerencia?
Nada de esto implica que la tecnología sea mala, la discriminación de precios puede ampliar mercados, reducir desperdicios, llevar bienes a quienes un precio único dejaba por fuera, la pregunta no es técnica sino moral, y precisamente por eso es económica en el sentido de Smith, me pregunto si un algoritmo puede tener un espectador imparcial, o si la imparcialidad exige a alguien capaz de avergonzarse, y si el precio deja de ser una señal pública y se vuelve un mensaje privado, ¿sigue el mercado coordinando el conocimiento disperso entre todos, ese que el economista vienés Friedrich Hayek confió al precio?

Smith confiaba en que el mercado tenía un fondo moral que lo sostenía, ¿ese fondo todavía existe, o tendremos que reconstruirlo? La mano invisible necesitaba un espectador, ¿quién ocupará ese lugar?