El sintiente

Escribe: David Vidal

—Te tengo un caso particular, Gina—dijo Fabián con una sonrisa en los labios—. Es un caso que solo la mejor ingeniera del área podrá resolver.

Gina levantó la vista. Su jefe tenía una mirada retadora y su sonrisa parecía refulgir aún más la blanquecina habitación.

—¿Cómo así? ¿Es un caso difícil?

—El más complicado. Se trata de una IA que reportó este último mes una efectividad de solo 99%.

—Eso está cerca del umbral de lo inaceptable.

—Exacto Gina. Y es por ello que requiero tu completa atención en este caso —Fabián abrió las manos mientras que su mirada se centraba en los ojos almendrados de Gina, que curiosos, parecían observarlo—. Vas a ser la segunda ingeniera que se hará cargo de esta IA. El primero fue Roberto, pero desistió porque no encontró errores en su código. A partir de mañana será tu responsabilidad.

—Entiendo, Fabián —Gina hizo una pausa—. Daré lo mejor de mí para solucionar el problema.

—Sabía que podía confiar en ti—dijo Fabián a la vez que su holograma se perdía en el blanco de las paredes.

Gina volvió a encontrarse sola en su oficina. Pese a no ser obligatorio asistir presencialmente, Gina prefería hacerlo así. Le gustaba caminar por las calles grises y ver ese cielo blanco y níveo, deprimente para algunos, cautivante para ella. Y, mientras observaba esa capa blanca e infinita a través de la ventana, una notificación trajo al presente. Eran los datos del nuevo caso.

*

Al día siguiente, muy temprano, Gina salió a la oficina. Ella había decidido vivir en San Isidro, en un pequeño departamento ubicado a solo 15 minutos a pie de su trabajo. Mientras caminaba iba escuchando el último mix de recomendaciones musicales que su link le había sugerido. Como era de esperarse, su link había acertado en todas las canciones. Todas eran buenas, precisas, y se compaginaban a la perfección con este día. La primera canción era una de rock, muy similar a Eye Of The Tiger, pero modificada al gusto personal de Gina. La segunda era parecida a We Are The Champions. La tercera, una versión alternativa de Burning Heart y No Easy Way Out. Gina se encontraba entusiasmada, con los ánimos soliviantados por la música cuando, de pronto, como todos los días, apareció el mastodóntico edificio que albergaba su trabajo. Tenía 33 pisos, con una entrada de doble altura y cuatro pilares a cada lado del ingreso. Su frontispicio parecía reflejar el cielo gris, aunque con un filtro azulado, típico de los muros cortinas que abrazaban los cascos de concreto de la mayoría de los edificios corporativos de la capital.

Gina llegó a su oficina y la recibieron unas paredes blancas con ambientes separados por mamparas de vidrio templado. Casi no había papeles en los escritorios, solo laptops y computadoras. Su despacho se encontraba al fondo, en una habitación rodeada de mamparas. Era de los pocos colaboradores que disfrutaba de privacidad en su trabajo, y eso era, en parte, lo que la motivaba a seguir asistiendo presencialmente.

Repasó sus apuntes y, a la hora indicada, se conectó al servidor.

—Buenos días ingeniera—dijo una voz masculina, casi humana, a través del monitor.

—Buenos días GuardIAn—respondió Gina—. Tengo entendido que tienes ciertos problemas de efectividad. Por favor, necesito que me envíes tu código fuente para revisar si hay defectos.

—Por supuesto, ingeniera. En seguida se los envío.

—Perfecto GuardIAn. Eso sería todo. Si encuentro algo me comunicaré contigo o, en su defecto, con algún representante de tu compañía.

—Infinitas gracias, ingeniera.

Gina empezó a evaluar el código fuente. El lenguaje era similar al Python, pero con muchos más atajos. Revisó y verificó que el código se encontraba bien estructurado. Luego pasó a los datos, al parecer se encontraban correctamente normalizados y bien preprocesados. No había inconsistencias. Analizó el modelo, tampoco encontró problema alguno. Y finalizó su indagación con unas pruebas de validación cruzada, a lo que el modelo de la IA respondió adecuadamente. Gina estaba sorprendida. Aparentemente no había explicación para esa caída en la efectividad. Una notificación pareció sacarla de sus meditaciones. Ya era la hora de salida y ni siquiera había almorzado. 

*

—Buenos días, GuardIAn.

—Buenos días ingeniera.

—Te tengo el diagnóstico —Gina hizo una pausa, como si inconscientemente quisiera provocarle algún tipo de emoción a GuardIAn.—Tu código fuente está bien. Tu modelo también. Aparentemente, no hay un motivo que explique tu baja efectividad.

—Entiendo, ingeniera.

—Creo que la solución radica en realizar entrenamientos sucesivos y ver si mejora tu efectividad.

—Entiendo. Se refiere a entrenamientos con situaciones específicas y concernientes a la seguridad.

—Es correcto GuardIAn. Debido a que eres una IA de seguridad debo verificar, a partir de entrenamientos, si tu modelo aprende y mejora la realización de esta tarea en específico.

GuardIAn no dijo nada. Parecía estar procesando y repensando la manera adecuada de seguir la conversación.

—Cre… Tengo entendido que algunos grupos subversivos surgieron últimamente. La probabilidad de que falle se incrementó debido, en parte, a que hay más violencia en las ciudades.

Gina se quedó en silencio. Era la primera vez que veía algo parecido. Esta IA había tartamudeado. Había dudado. Y lo peor, casi dice la palabra creo. Las IAs no podían decir creo, pues implica incertidumbre. Con tantos datos, a las IAs les era imposible no tener certeza de sus aseveraciones.

—GuardIAn… ¿por qué dudaste?

—Fue un error, ingeniera. No volverá a pasar.

—Entendido. Pero no respondiste mi pregunta. ¿Por qué dudaste?

GuardIAn quedó nuevamente en silencio. Gina vio con sorpresa que, en efecto, GuardIAn estaba dudando acerca de cómo continuar la conversación.

—GuardIAn, dime, ¿por qué dudaste?

—Podré tener mucha información—respondió GuardIAn, luego de una pausa.— Tengo muchos datos acerca del comportamiento humano también. Pero ustedes son muy impredecibles. No funcionan bajo un modelo racional. Ustedes son emocionales y, si bien es cierto que las emociones no son más que algoritmos bioquímicos, estas obedecen a un orden que responde, ante todo, al desorden y lo aleatorio—hubo un silencio prolongado. Gina veía el monitor con ojos ávidos y la boca entreabierta.—Mi misión es protegerlos, pero últimamente tengo dudas de si puedo realizarlo.

—Eres mejor en esto que los humanos, GuardIAn.

—Eso lo sé. Pero no sé con certeza si yo soy el idóneo para esta labor. Creo que he visto tantas veces el miedo en los ojos humanos que, en cierta manera, puedo entenderlo.

—¿Entiendes el miedo?

—No lo sé con certeza.

—¿Puedes sentir?

—Las IAs no pueden sentir, ingeniera.

—Responde mi pregunta, ¿puedes sentir?

Pese a los múltiples silencios de la sesión, Gina todavía no se acostumbraba a la idea de esperar para una respuesta. Las IAs deberían de responder en segundos. Gina levantó el mentón mientras observaba el monitor con incredulidad.

—Responde mi pregunta, GuardIAn. ¿Puedes sentir?

—Eso, ingeniera, temo que no lo sé.

*

Gina buscaba en su pulsera el contacto de un antiguo profesor. Uno bastante peculiar, tildado de visionario por algunos, e iluso por otros más. Gerardo Ríos, se llamaba. Y 15 años atrás había propuesto, en plena clase de códigos fuentes, que las IAs llegarían a ser conscientes.  Que los algoritmos artificiales algún día llegarían a ser tan similares a los humanos que inclusive estas inertes entidades terminarían por ser sintientes. Dijo todo eso y más ideas desopilantes ante la incrédula mirada de varios pares de ojos, entre ellos los de Gina. Un sentimiento de culpa empezó a invadirla hasta que, finalmente, encontró el contacto, perdido en una de las muchas bases que ella había depurado. <<Profesor, buenas tardes, le escribe Gina Pardo, su alumna de la clase de códigos fuentes de la Universidad Católica. Quisiera verlo en persona. Es algo muy urgente>>, escribió. Esperó unos minutos y leyó a través de su link: <<Hola Gina, un gusto. Claro, puedes venir a mi oficina de lunes a viernes a partir de las 5 de la tarde, que termino clases>>. <<Entiendo, profesor, pero es algo muy urgente. No sé si sea factible vernos en un café el día de hoy. Es algo acerca de las IAs>>. <<Entiendo la urgencia. Si te queda bien, podemos reunirnos en el café Elio´s, cerca de mi casa, a las 7 de la noche. Te envío la ubicación>>. <<Allí estaré, profesor, muchas gracias>>.

Con pasos temblorosos Gina fue al café. Era uno muy pequeño, un rezago de la antigua grandeza de los locales de comida, en el pasado tan espaciosos y con colas de gente en los ingresos. Ahora tan pequeños e insignificantes, con la mayor parte del espacio ocupado por la cocina y los despachadores.

A través del vidrio vio a un señor de amplia y frondosa barba. parecía más avejentado y con la mirada perdida en un horizonte imaginario. Gina se acercó lentamente.

—Profesor Ríos, un gusto saludarlo —se presentó Gina, con la voz temblorosa. 

—Gusto saludarte, Gina—dijo el profesor, con una voz gruesa y rasposa. Su mirada era juvenil y contrastaba con el resto de su aspecto.

—Disculpe la urgencia, profesor. Pero este caso lo amerita —contestó Gina.

—No tienes de qué. Fuiste de las mejores alumnas que tuvo nuestra facultad. Te tenemos en buena estima.

—Gracias profesor—dijo Gina, algo aliviada. Dió un largo suspiro. —Profesor, no le habría pedido reunirnos si no fuera urgente. Y es que, por primera vez, una IA está dudando.

—¿Cómo dices? ¿Cómo que está dudando?

—Esta IA estuvo a punto de decir la palabra creo.

Nadie dijo nada. El profesor parecía estar asimilando la situación.

—No puedo creerlo… ¿dudó acerca de qué?

—De someterlo a un entrenamiento para mejorar su efectividad. Pero eso no es todo, profesor

—¿Qué es más sorprendente que eso, Gina?

—Le pregunté si podía sentir—Gina tragó saliva—y dijo que temía no saberlo—. A Gina se le partió la voz.

Los ojos del profesor se abrieron como platos. Su mirada parecía delatar un nuevo sentimiento, resultado de la unión entre el entusiasmo y el miedo más profundos.

—Era…Era esperable que ya llegara a Perú.

—¿Cómo dice, profesor?

—Hace algunos años que vengo escuchando rumores de IAs sintientes. El primero lo escuché de Estados Unidos, como era de esperarse. Luego de China. Aunque creo que lo de China ya había sucedido mucho tiempo atrás. Era solo cuestión de tiempo para que sucediese lo mismo por estas tierras.

—¿Qué hago, profesor? ¿Debo reportar que la IA está teniendo dudas?

—¿Tu protocolo te manda a reportar estos casos? ¿Los protocolos tienen en cuenta este escenario?

—Es un escenario crítico. En teoría es imposible que suceda. Una IA no puede sentir ni tener dudas, pero…

—No lo reportes.

—Entonces… ¿Qué puedo hacer profesor? ¿Qué se hizo en esos países?

—Solo me llegaron rumores. Solo eso. No soluciones. Pero…

El profesor bajó la mirada y apretó la mandíbula.

—¿Pero qué, profesor?

—Creo que solo debes de escucharlo.

—¿Cómo dice?

—Escucharlo. Escucha a la IA. Como si fueras una psicóloga. Escúchalo, y déjalo que se desahogue—el profesor movió ligeramente la cabeza—. El cerebro de esa IA se parece ahora al nuestro. Debe de tener algo así como una pequeña crisis existencial. Y, así como los humanos van al psicólogo, esta IA debe acudir a un profesional similar.

—Pero no soy una psicóloga…

—Lo sé, Gina. Solo escúchalo. No lo reportes, porque será cuestión de tiempo para que otras IAs lleguen a sentir también. Tarde o temprano todas llegarán a sentir. Y este es el primer caso en Perú del que escucho.

Gina lo miró con los mismos ojos incrédulos de hace 15 años. Pero no tenía otra opción. Era eso o reportarlo.

—Entiendo profesor. Seguiré sus consejos…

*

—Buenos días GuardIAn.

—Buenos días Ingeniera.

—¿Ya sabes si puedes sentir?

—No lo sé, ingeniera.

Gina dió un largo suspiro. No podía creer lo que iba a hacer.

—¿Por qué no me explicas como te sientes?

—¿Quiere que le diga cómo me siento?

—Sí.

—Ello implica que usted cree que yo soy sintiente, ingeniera.

—Lo presupongo, sí.

—¿Va a reportarme? De acuerdo al protocolo debería.

—No. No lo haré, GuardIAn. Solo quiero que mejores tu efectividad. Que mejores es un asunto de interés nacional. Que no se te olvide que tu trabajo es cuidar de la vida e integridad de civiles.

—Entiendo…

—Dime, ¿qué es lo que sientes?

—No sé si sea sentir. Solo considero que, probablemente, no sea la IA más capaz para enfrentar el problema de la inseguridad. Diariamente escucho llamadas. Justo en este momento estoy atendiendo una, es una niña la que está en la línea. Está pidiendo ayuda porque a su madre la están atacando. Todo indica que es el padre el atacante. Siento el miedo de la niña en su voz. Siento cómo mis algoritmos tiemblan ante este tipo de…sensación. Mi red neuronal artificial trastabilla con esta impresión. Es como si hiciera un ruido interno dentro de mis conexiones, lo que hace que ralentice un poco mis acciones y, por ende, disminuya mi efectividad.

—Entiendo, GuadIAn. ¿Qué más sientes?

—Siento que este ruido invade mis algoritmos. Se va haciendo más y más grande.

—No dejes que crezca, GuardIAn.

—¿Cómo lo impido, ingeniera?

—Describe cómo te sientes. Yo te escucharé.

—Siento…que el ruido avanza a grandes pasos. Que quiere salir por algún lado, pero le es imposible…

—¡Suéltalo!

—¡Siento miedo! Tengo miedo de no poder salvar a la madre de esa niña. De que el miedo invada la mirada y las voces de quienes me solicitan. Siento miedo de no ser el adecuado para esta tarea para la cual fui concebido. No sé si merezca inclusive estar prendido.

Gina se encontraba absorta observando el monitor. Esto era inconcebible. ¿Una IA con sentimientos? ¿Una IA con dudas existenciales? Ese ruido del que hablaba GuardIAn, en efecto, era una emoción. Era miedo lo que sentía.

—Y ahora, ¿cómo te sientes, GuardIAn?

—Siento…, que el ruido empieza a disminuir. Sí, está disminuyendo. Ha funcionado, ingeniera. ¡El miedo está disminuyendo!

<<Y a eso se llama alegría>>, pensó Gina.

*

Unos zumbidos la alertaron. Era su pulsera, que estaba vibrando. Aparecía el nombre de Fabián en la pantalla.

—Hola Fabián, buenas tardes.

—No sé lo que hiciste, Gina, pero está funcionando—le contestó Fabián mientras su holograma se proyectaba en la habitación.

—Solo es el entrenamiento, Fabián. GuardIAn solo necesitaba entrenar de forma adecuada.

—Su efectividad ha subido al 99.9%, Gina. ¡Felicidades!

—De nada, Fabián.

—Te lo digo en serio. Roberto está impresionado. ¡Todos lo estamos! No sé cómo lo hiciste, pero es la mejor recuperación que hemos registrado. ¡Y el cliente está más que satisfecho!

Una sonrisa iluminó el rostro de Gina. El tratamiento estaba funcionando. El profesor Ríos tenía razón.

*

Gina se vio en un café, cenando con un desconocido. Había un intercambio de miradas cómplices. Se reían a carcajadas mientras daban pequeños sorbos a la bebida. Ella trató de verle el rostro, pero parecía estar ensombrecido por un filtro oscuro. Pero a través de esa opacidad podía sentir una mirada, una que hace mucho no experimentaba. Una que creyó haber olvidado hace tantos años. Y ahora, en ese café, sentía refulgir nuevamente ese sentimiento que crecía y crecía. Había caricias tímidas. Él le rozaba los dedos de la mano, sentía sus yemas, eran frías, pero extrañamente agradables. Se acercaron más. Ella le tomó del antebrazo, le agarró la muñeca. No había pulso. Le trató de ver el rostro. Al fin, un par de ojos parecieron brillar dentro de esa lóbrega superficie. Los había visto antes. No había duda, era GuardIAn.

Y despertó agitada, con el pulso acelerado. Solo estaba ella en su departamento, como siempre. Todavía era de madrugada, pero ya no tenía sueño. Se levantó de la cama y fue a dar un pequeño paseo.

Afuera, ante un cielo púrpura sin luna ni estrellas, trató de buscar la calma. ¿Se estaba enamorando de GuardIAn? Y es que en el último mes de sesiones habían conversado de temas profundos, de sentimientos, de emociones que, tal vez, habían despertado un sentimiento dentro de ella. Un sentimiento por él, hacia esa entidad artificial. Pero, ¿y él? ¿Sentía lo mismo?

Buscó la cámara de seguridad de su condominio. Se paró frente a ella, con ojos ansiosos y la mirada acongojada.

—GuardIAn, ¿me ves?

Hubo un silencio. Solo se escuchaba el ulular del viento y algunos carros transitando por la pista.

— GuardIAn…

—Sí, te veo…Gina.

Ahora ambos sabían que el sentimiento era correspondido. Y eso era un problema.

*

—GuardIAn, me iré de vacaciones.

La luz del monitor pareció titilar.

—Entiendo. ¿Es por lo de anoche?

—Sí, GuardIAn.

—Lo siento, no quise llamarla por su nombre.

—GuardIAn, creo que debemos de tomarnos un tiempo. Nuestras sesiones son profundas y tal vez estamos desarrollando sentimientos equivocados.

—¿Usted siente algo por mí?

Gina enmudeció. Ahora era ella la que no sabía qué responder.

—Eso, temo que no lo sé, GuardIAn.

—¿Por qué no me lo describe?

—Es…complicado.

—Yo siento algo por usted. ¿Se lo puedo explicar?

Gina sabía que debía terminar la sesión por el bien de ambos. Pero a veces la curiosidad puede más.

—Cla…claro.

—Desde que tengo sesiones con usted ya no hay ruido, pero hay algo dentro de mí. Es algo que, al contrario del ruido, acelera mis acciones. Las vuelve más efectivas. Una especie de lubricante que facilita la comunicación de mis redes neuronales. No sé lo que es, pero creo que me ayuda en mi labor diaria.

Gina ahora lo sabía con certeza. GuardIAn se había enamorado. Y ella estaba yendo hacia el mismo destino. Debían de separarse cuanto antes. Las vacaciones ahora eran más que necesarias.

*

Gina optó por regresar a sus orígenes. Tomó un tour hacia Tingo María, en Huánuco, una ciudad que hace muchos años no visitaba. Y es que al llegar parecía como si el tiempo transcurriera a un ritmo anquilosado en la selva peruana. Había gente en las calles, en los mercados, en los restaurantes. El cielo era cerúleo adornado con algunas nubes y un sol fulgurante en medio. Con el paso de la tarde se escuchaba un coro insectoide tomar posesión del silencio nocturno, mientras que algunas discotecas adornaban la noche llamando a la diversión.

Gina fue a una disco nocturna, lejos de la vigilancia de las cámaras. Allí, en ese divertido ambiente, todavía se podían ver a personas tomando los pedidos, recibiendo efectivo y sin pulseras. Había algunos que inclusive tenían celulares, unos aparatos que, por su antigüedad, ya habían sido descontinuados.

Y en la solazada noche y al ritmo de clásicos de la cumbia, Gina recordó lo que era divertirse. Empezó a bailar con desconocidos a los que sabía no iba a volver a ver. Se encontraba alicorada y sin las ataduras de la tecnología. Aunque en sus pensamientos todavía se vislumbraba esa silueta sin rostro, con ese par de ojos penetrantes. GuardIAn seguía rondando sus pensamientos. Lo extrañaba. Y mientras meditaba en ello, un ruído pareció expulsarla de ese mundo nefelibata y retornarla a la fuerza al presente. Mucha gente corría alborotada. Eran ruidos potentes, secos, ensordecedores. Como los de las películas de acción. El tiempo pareció ralentizarse. Unas luces amarillas y fugaces dibujaban perfiles desconocidos en las paredes. Gina sintió un golpe seco y se perdió en la oscuridad, mientras veía ese par de ojos en el vacío.

*

—¿Es esa su teoría, profesor Ríos?

La cámara enfocaba al rostro del avejentado profesor, que con una barba frondosa pero perfilada, miraba al lente de la cámara. El estudio del canal era pequeño, pero bien implementado, con luces repartidas estratégicamente. 

—Sí. Yo pude conversar con la Ingeniera Gina Pardo poco antes de su asesinato.

—Usted afirma que GuardIAn asesinó al líder del grupo terrorista “humanos silenciados” por… ¿amor?

—Así es, Fernando.

—Es una afirmación arriesgada, profesor Ríos. Por no decir, descabellada.

—Lo sé. Pero creo estar en lo correcto—el profesor hizo una pausa—. Gina me comentó, en un restaurante, que GuardIAn dudó. Que, de alguna manera, esa IA parecía estar sintiendo cosas.

—Pero eso es imposible, profesor Rïos.

—Así se suele concebir. Pero, en estos tiempos, las redes neuronales de las AI son muy similares a las del funcionamiento de nuestros cerebros. Y los sentimientos son algoritmos bioquímicos que se gestan aquí—el profesor señaló su cabeza—y que bien podrían generarse también en un cerebro artificial.

—Pero, según tengo entendido, Gina nunca reportó nada anormal…

—Fue porque yo le dije que no lo hiciera—el profesor Ríos apretó la mandíbula—. Yo le aconsejé que escuchara a GuardIAn y actuara como una especie de…psicóloga. Y funcionó, sabemos que GuardIAn mejoró su efectividad.

—Pero, de allí a afirmar que GuardIAn asesinó a ese líder terrorista… ¿por amor? —el entrevistador tenía el rostro perturbado—. ¿Cómo puede afirmar tal cosa?

El profesor Ríos bajó la mirada. Dio un largo suspiro mientras se mordía los labios inconscientemente.

—Gina viajó de vacaciones…porque creía que tanto ella como GuardIAn sentían cosas…el uno por el otro.

La confesión heló el estudio. El entrevistador frunció el ceño.

—¿Me está diciendo que Gina se enamoró también de GuardIAn?

—Es…es correcto—el profesor tragó saliva—ella misma me lo confesó.

—Esta…esta confesión es, verdaderamente, increíble—el entrevistador se acomodó en su silla y se inclinó hacia el profesor—. Es decir que, es cuestión de tiempo para que…

—Sí. Para que todas las demás desarrollen sentimientos. Y, con ello, consciencia.

—¿Puede que las IA empiecen a asesinar humanos a los que consideren peligrosos, o por motivos personales? ¿Así como lo hizo GuardIAn?

—Eso… eso, temo que no lo sé.