dilemas éticos de una tecnología en auge


PuroMarketing: Noticias de marketing, publicidad y marcas en Español

Desde que en 2018 Google diera a conocer las capacidades de Google Duplex, la aplicación de chatbots en el mundo del marketing se ha visto muy reforzada. Según un estudio de Grand View Research publicado en abril de este año, se espera que en 2027 el mercado para este sector alcance un volumen de cuarenta y cinco mil millones de dólares (USD 45,1 billion). Asimismo, establece que el creciente uso de altavoces inteligentes en el hogar así como la digitalización del sector minorista ha propiciado la implementación del comercio electrónico a través de estos canales, convirtiéndose en el principal factor impulsor del mercado.

Básicamente, un chatbot es una tecnología que hace uso de la inteligencia artificial para emular, mediante texto o voz, una conversación con un interlocutor humano en lenguaje natural. Su principal atractivo es, precisamente, permitir a los usuarios la posibilidad de realizar procesos tales como buscar información en internet, reservar una habitación, tramitar una reclamación o seguir un tratamiento médico de un modo más amable y humano que si lo hicieran con un sistema informático. Sin embargo, cabría preguntarnos si precisamente este aliciente podría convertirse en su mayor desventaja.

El origen de los chatbots lo podemos encontrar en el programa ELIZA, un desarrollo llevado a cabo por el integrante del MIT Joseph Wizenbaum en 1966. Se trataba de un sencillo programa capaz de simular la interlocución entre un psicoanalista y su paciente, donde el ordenador tomaba el papel del primero. Durante estas conversaciones con la computadora, muchos de los participantes llegaron a creer que se encontraban conversando con un psicoterapeuta humano.

Curiosamente, en lugar de celebrarlo, Weizenbaum interpretó esto como algo escandaloso y se tornó extremadamente crítico con los usos y aplicaciones de este tipo de programas. De hecho, diez años después publicaría Computer Power and Human Reason, donde defendía la idea de que hay tareas que los ordenadores no deberían hacer aunque técnicamente pudieran.

En 2017, a raíz del debate surgido en torno a los usos y aplicaciones de la inteligencia artificial, se redactó la “Declaración de Barcelona para un desarrollo y uso adecuados de la inteligencia artificial en Europa”. En ella, se desarrollaron hasta seis recomendaciones de carácter ético que deberían ser tenidas en cuenta a la hora de implementar estas tecnologías. De entre ellas, me gustaría destacar la de “responsabilidad”, la cual viene a decir que en todo momento ha de quedar claro para los usuarios si la interacción está siendo llevada a cabo con una persona o con un sistema de inteligencia artificial. Y de tratarse del segundo caso, se habría de tener la posibilidad de localizar e identificar a los responsables de él.

En el ejemplo antes mencionado de Google Dúplex, el asistente virtual fue capaz de hacer, vía telefónica, una reserva de cita para una peluquería sin que su interlocutora percibiera que era una máquina con quien estaba hablando. De esta manera, conseguía saltarse el protocolo sobre responsabilidad que la declaración de Barcelona proponía.

Como he mencionado más arriba, el uso de estos sistemas basados en inteligencia artificial ha ido creciendo en los últimos años y su tendencia de uso es ascendente en casi todos los sectores de la industria. El marketing es quizá uno de los que mayor provecho puede sacar de ellos, pues suponen la capacidad de automatizar gran cantidad de procesos sencillos así como realizar una atención constante de cara al cliente y la posibilidad de tener al otro lado a un telefonista con una resiliencia infinita.

Sin embargo, deberíamos preguntarnos hasta qué punto es lícito implementar este tipo de sistemas del modo en el que nos mostraba Google. Hasta qué punto un usuario estaría conforme con tratar con una máquina sin saber que lo es y de qué manera se sentiría en el caso de descubrirlo por él mismo. ¿Continuaría utilizando el servicio que ofrecemos? ¿Se lo recomendaría a un tercero? Quizá, para confiar en algo o en alguien, no nos baste con la sensación de estar hablando con otra persona, sino que necesitemos la certeza de estar haciéndolo. Por eso, es posible que la mayor fortaleza de los chatbots pueda convertirse al mismo tiempo en su mayor debilidad.



Publicado tambien en

    Leave Your Comment Here