Los límites éticos de la inteligencia artificial

Roxana Méndez González*
@roxanapaganini

Llegó el 2020 y con él muchos avances a nivel tecnológico, cultural, social, entre otros. Nos encontramos en un punto donde ya no es prematuro pensar en la posibilidad de que los robots no solo se encuentren en escenarios donde deban tomar decisiones difíciles, sino también, decisiones éticas.

Déjenme ilustrarlos con un ejemplo, un automóvil llega a su casa a las 8 am para cumplir con la tarea específica de llevarlo a su trabajo. Usted se sube en el asiento trasero del automóvil, deja su maleta al lado y saca su Kindle para continuar con la lectura del libro que lo tenía tan enganchado la noche anterior. Un viaje rutinario, donde nunca se han presentado inconvenientes en el trayecto, inclusive por la hora hay poca congestión, sin embargo, hoy ocurre algo inusual y terrible: son dos niños que cruzan la calle de manera imprudente sin percatarse de la velocidad a la que va el automóvil, con la viva esperanza de alcanzar a pasar… no hay tiempo para frenar, solo hay una opción y es girar a la izquierda, aunque no es lo más viable ya que una moto se aproxima, otro dato, el automóvil no tiene conductor, solo es usted y la máquina.

Ninguno de los resultados es ético, estrictamente hablando, pero en ese orden de ideas, ¿cuál es el menos ético? Este dilema provocado por los niños cruzando de manera imprudente frente al automóvil es una variación contemporánea del dilema del tranvía, un experimento mental en ética ideado por la filósofa británica Philipa Foot, gran estudiosa de la ética aristotélica, contribuyendo al resurgimiento de la ética normativa, que básicamente consiste en la siguiente situación:

Un tranvía avanza sin frenos y está a punto de atropellar a 5 personas que se encuentran sobre la carrilera, usted está a un lado del camino y tiene la opción de activar una palanca que puede salvarles la vida ya que esta hará que automáticamente el tranvía se desvié, pero, matara a una persona que está en el otro carril. Usted solo tiene 10 segundos para tomar la decisión, si no hace nada, mueren 5 personas, si hace algo, muere una ¿usted qué haría?

Este cuestionamiento ha existido durante décadas y aún divide a los filósofos, específicamente a los utilitaristas, los cuales argumentan que es necesario actuar en pro de la felicidad y el bienestar de las mayorías, sin embargo, ya no es un tema meramente humano, estamos hablando de “máquinas éticas”.

Puede que usted piense que estamos lejos de estos escenarios, pero y si fuera así, ¿por qué el Massachusetts Institute of Technology (MIT), inició un proyecto llamado Moral Machine, donde se evidencia claramente como por medio de los datos de crowdsourcing se pueden entrenar a las máquinas de manera efectiva para tomar mejores decisiones éticas en el contexto de los automóviles autónomos?¿por qué la comisión de ética en Alemania sobre la conducción automatizada muestra especial preocupación por dichos casos y recomiendan programar a las máquinas de tal manera que se priorice la vida humana en todo momento?

A partir de estos planteamientos surgen muchas incógnitas como: ¿qué rol tomarían los humanos en torno a la ética imbuida en los robots? ¿será el gobierno quien decida? ¿sus fabricantes? o ¿propiamente el consumidor? Y de ser así, ¿usted podrá entrar a un concesionario y seleccionar la programación ética del automóvil de la misma manera que el color?

Es un tema inquietante que invita a la reflexión, lo animo a que usted me diga si ha reflexionado sobre la robótica en el futuro y los límites éticos de la inteligencia artificial.

*Miembro de número de la dirección de Emprendimiento.

Incentivos perversos y juguetes rotos

Por: Manuel Eduardo Riaño

La psicología clásica nos ha enseñado que la mejor manera de limitar o estimular un comportamiento dado, es modificando los incentivos que hacen posible que esta conducta se produzca. Son extensos los experimentos de laboratorio con animales y numerosos los experimentos sociales con personas que, desde la rigurosidad científica, respaldan este postulado.

En la disciplina económica y en las ciencias sociales también hemos tenido varios ejemplos conductuales que, materializados a través de políticas públicas, han incentivado o desincentivado comportamientos individuales y colectivos en diferentes sociedades. Incentivos fiscales para promover mayores tasas de empleo o productividad. Incentivos ambientales para usar recursos renovables y energías limpias. Incentivos legales para desestimular comportamientos delictivos.

En muchos casos, estos incentivos traen consigo un fenómeno conocido como riesgo moral que a su vez causa incentivos perversos, es decir comportamientos indeseados que se causan por los efectos del establecimiento de dichos incentivos. En el caso colombiano los incentivos a los objetivos militares en las fuerzas armadas han producido los lamentables casos de “falsos positivos”.

Los incentivos a la erradicación y sustitución de cultivos ilícitos han traído un aumento de estos con el fin de tener los beneficios asociados a pertenecer a los programas. Quienes toman seguros tienden a ser menos cuidadosos con su salud o sus propiedades, minimizando las acciones preventivas ya que saben que los costos monetarios por accidentes serán cubiertos. Juguetes rotos en vísperas de hacer las cartas de Navidad, con el fin de que papá Noel se apiade y traiga ese objeto de deseo tan de moda con los amigos del colegio.

El suceso acontecido con la decisión de SIC en Colombia en contra del funcionamiento de las plataformas digitales de movilidad, sin duda, constituye un incentivo perverso en contra de la competitividad del país y desestimula la creación e implementación de plataformas digitales de diversa índole. En alguna charla a estudiantes universitarios expuse un decálogo sobre mis consejos para emprender. Como la mayoría de estos sumarios, el mío no era ajeno a las experiencias propias, pero sobre todo a las frustraciones y errores vividos.

Por supuesto también lo condimenté con algunos ejemplos tomados de esos listados tan famosos en el ecosistema de emprendimiento.  En la charla sugerí que dos de esos consejos tenían que ver con conocer bien al mercado por un lado y en conocer bien a la competencia por el otro. Este fallo de la Superintendencia distorsiona no solamente el mercado, sino que agrega un nuevo elemento a mi charla: conoce bien las instituciones y las autoridades que regulan.

No es un elemento menor.  Esta determinación en aparente ejercicio de equidad, fruto igualmente de una acción paquidérmica del Gobierno Colombiano por no regular este tipo de industrias digitales, resulta un incentivo perverso para la competitividad del país y para el despliegue de alternativas digitales e innovadoras a bienes y servicios tradicionales, en mercados no cautivos y con poblaciones diversas.

Como lo exprese ese día y en otros escenarios, conocer el mercado y la competencia implica a grandes rasgos saber con grado alto de exactitud que desean los potenciales clientes, cuales son sus necesidades, qué y cuánto estarían dispuestos a pagar, como son sus preferencias y sus dinámicas de consumo. De manera alterna, conocer a la competencia implica un ejercicio interno y serio del emprendedor por saber y potencializar su factor diferencial, su ventaja competitiva y sus opciones de mejora e innovación frente a los otros.

En general estos dos factores hacen en el conjunto de los agentes económicos de la sociedad, el mayor porcentaje del grado de competitividad de una economía. Es decir, que el fallo de la Superintendencia sin lugar a dudas golpeó enormemente, como efecto indeseable de su acción, la percepción de competitividad del país y los incentivos positivos de muchas firmas extranjeras de invertir en desarrollos tecnológicos y de muchas firmas locales para atreverse a lanzar servicios digitales alternos.

Todo esto mientras navegamos en un mar de incertidumbre legal en el barco de la economía naranja. La Cámara de Comercio de Bogotá, calcula que solo 3 de cada 10 empresas sobreviven en Colombia después de 5 años y que los tres mayores obstáculos de los emprendedores son la burocracia, las limitaciones financieras y los problemas de competitividad. Si señoras y señores la burocracia y la competitividad.

Al final de la charla expresé, como se ha dicho ya muchas veces, que no existe una fórmula mágica que asegure el éxito emprendedor. No hay claves infalibles que lleven a una conquista inequívoca. Solo consejos desde ópticas individuales que han servido para entornos particulares, para negocios específicos y para mercados puntuales. En otra columna me referiré a este listado con más detalle.

Por ahora tal vez la única recomendación que me atrevería a decir que tiene valor universal, parafraseando la famosa frase Woody Allen, es que no se cual sea la clave de un buen emprendedor, pero la clave de su fracaso es no tener foco. Con el fallo de la SIC, tal vez pueda agregar también a este corolario: estar en países en donde las autoridades regulan el uso del ábaco mientras los emprendedores ya usan chips cuánticos.

*Columnista invitado del Tanque de Pensamiento Alcentro.

Alzamos la voz contra la violencia económica y sexual

Por: Lizeth Rozo*
@liz_ddhh 

El ser humano sin distinción de raza, sexo, religión, nacionalidad, posición política o económica está protegido por emblemáticos marcos jurídicos como la Declaración Universal de los Derechos Humanos, el Pacto Internacional de Derechos Civiles y Políticos, e importantes instituciones como la Organización de Naciones Unidas, que han surgido a través de la historia como resultado de la necesidad de enmarcar, velar y defender los Derechos Humanos de todos los ciudadanos alrededor del mundo.

No obstante que la misión de estos organismos y estatutos sea la protección y defensa de los Derechos Humanos, no se puede desconocer que estos han sido vulnerados y violentados, a lo largo y ancho del planeta y en diferentes épocas de la historia.

De los eventos que configuran su vulneración han sido víctimas: niños, niñas, adolescentes, hombres y mujeres de todas las edades y estratos socioeconómicos. Al respecto, muchos de los Estados del mundo entero se han pronunciado jurídica y vinculantemente en torno a los Derechos Humanos y en pro justamente de su defensa.

La Declaración Universal de los Derechos Humanos, fue adoptada y proclamada por la Asamblea General en su Resolución 217 A (III), de 10 de diciembre de 1948, señalando en su preámbulo: “Considerando que la libertad, la justicia y la paz en el mundo tienen por base el reconocimiento de la dignidad intrínseca y de los derechos iguales e inalienables de todos los miembros de la familia humana, considerando que el desconocimiento y el menosprecio de los derechos humanos han originado actos de barbarie ultrajantes para la conciencia de la humanidad” (Declaración Universal de los Derechos Humanos, 1948, p. 01).

En Colombia, la Constitución Política de 1991 ha sido denominada por académicos y juristas como la Constitución de los Derechos Humanos y de la oportunidad, garantista de un Estado Social de Derecho y de la preponderancia de los derechos fundamentales. Sin embargo, nuestro país se enmarca entre los constantes vulneradores de derechos hacia la mujer, donde se señala que esto obedece a móviles como el conflicto armado y toda clase de violaciones a los Derechos Humanos y fundamentales.

Colombia se enfrenta a un panorama desolador de altos indicativos de violencia, no solo sexual sino psicológica y económica que ameritan una pronta intervención, de cara a su conocimiento, a las garantías de defensa, de reparación, de no repetición y al restablecimiento de los derechos de las mujeres vulneradas, de alguna u otra forma invisibilizadas.

Es menester generar acciones prácticas que le permitan a las mujeres conocer y reconocer sus derechos de forma que sea este conocimiento específico, e incluso aplaquen la violencia económica, generándoles fuentes de ingresos y estabilidad monetaria, como el emprendimiento.

El conocimiento de los derechos fundamentales enmarcados en nuestra constitución y el emprendimiento, como generador de ingresos, surgen como instrumentos de ayuda al empoderamiento para la defensa y reivindicación de todos y cada uno de sus derechos fundamentales, especialmente de aquellos que les han sido vulnerados, en las mujeres no solo víctimas del conflicto armado, sino de toda índole.

*Miembro de número de la Dirección de Emprendimiento.

‘La década de acción’

Por: Carlos Andrés Aguilera *
@Aguilera_Ariza

Inicia una década de acción para alcanzar los 17 Objetivos de Desarrollo Sostenible y las 169 metas de la Agenda 2030. El plan de acción global aprobado en 2015 por la Asamblea General de las Naciones Unidas, requiere para su implementación, decisiones efectivas de los gobiernos, y la apropiación por parte de la ciudadanía, movilizándonos como sociedad en torno a las personas, el planeta, la prosperidad, la paz, y las alianzas.

Las brechas de desarrollo entre países, así como al interior de sus territorios, continúan acentuando diferencias en la calidad de vida de las personas, su acceso a servicios del Estado y oportunidades de progreso. De acuerdo con el Informe de los Objetivos de Desarrollo Sostenible (Naciones Unidas, 2019), en el mundo la pobreza extrema en zonas urbanas es de 5,3%, y en zonas rurales es del 17,2%. En Colombia, según cifras del DANE, para el 2018 el porcentaje de personas clasificadas como pobres extremas correspondió al 7,2%; siendo también mayor en los centros poblados y rural disperso (15,4%), que en las cabeceras (4,9%).

También debemos insistir en la necesidad de actuar frente al deterioro de las condiciones para la vida en el planeta. Análisis independientes de la NASA y la Administración Nacional Oceánica y Atmosférica – NOAA, indicaron que las temperaturas de la superficie global de la tierra en 2019 estuvieron 0.98° C (1.8° F) por encima del promedio de 1951-80, las segundas más cálidas desde que se comenzó el mantenimiento de registros en 1880.

Las actividades humanas continúan afectando el ambiente y generan un efecto bumerán en perjuicio de la prosperidad. Esta es la realidad y sus detractores no la pueden desconocer, cada vez se cuenta con mayor evidencia. Por ejemplo, los indicadores establecidos por NOAA para analizar los efectos del clima en la sociedad y la economía de Estados Unidos, teniendo en cuenta factores climáticos como la temperatura, la lluvia, las nevadas, la nubosidad y los vientos, permiten identificar efectos en los campos de cultivo, el consumo de energía en los hogares, así como en el impacto económico.

De otra parte, como sociedad hemos sido testigos y víctimas de conflictos internos y entre naciones que sólo han dejado destrucción. La construcción de sociedades en paz, con instituciones sólidas y justicia social son la base para el desarrollo. En esta esfera Colombia ha avanzado en medio de posiciones e intereses contrapuestos; por eso, es preciso insistir en la necesidad como país de no retroceder, consolidar los esfuerzos y hacer frente a las nuevas amenazas.

Finalmente, las alianzas no se deben asociar exclusivamente con movilizar recursos económicos a través de la cooperación internacional. Las manifestaciones que invitan a la unión en asuntos esenciales y de interés universal como los derechos humanos y las reivindicaciones sociales, se deben acompañar de otras acciones, reconociéndonos sujetos de derechos, pero también de deberes. Es pasar del asombro e indignación ante la dimensión de los problemas, a asumir compromisos en comunidad -en el barrio, colegio, universidad, o lugar de trabajo-, para liderar acciones en temas como solidaridad, equidad, consumo y producción responsable, disposición de desechos, y la promoción de diálogos ciudadanos para informarse, reflexionar y así contar con más y mejores herramientas para participar en la construcción colectiva de sociedad. Las alianzas son un mecanismo para generar soluciones e inspirar a otros a actuar, son fundamentales para alcanzar el desarrollo en sus dimensiones económica, social y ambiental.

* Director de Seguimiento a los Objetivos de Desarrollo Sostenible de Al Centro

Avianca: No te vayas

Sergio Alfonso Londoño Zurek*
@sergiolonzu

La conectividad aérea es uno de los principales factores que habilitan tanto el turismo como los negocios. Estar a un vuelo de distancia de los centros de poder mundial le permiten a las ciudades articularse a las oportunidades que le brindan dichas urbes. Por algo, el negocio de las rutas es altamente codiciado y es motivo de conversación hasta en las reuniones entre Presidentes, Primeros Ministros y Reyes. Puedo decir que he sido testigo de primera mano de lo importante que es para un país negociar una nueva ruta o conectarse con un país.

Lastimosamente en Colombia aún seguimos pensando en chiquito, en que la torta solo se reparte entre lo que hay y nunca entre lo mucho que puede haber. Nos llenamos la boca hablando de nuestro país como el nuevo destino, pero la mezquindad por democratizar las rutas aéreas es absoluta. Es bien sabido que El Dorado se quedó pequeño, aún con los mayúsculos esfuerzos económicos de los dos Presidentes pasados. Por ende, se rumora una fuerte disyuntiva central por la consecución de los rubros necesarios para su expansión. Probablemente hay una preocupación en la Aeronáutica Civil, el Ministerio de Comercio, Industria y Turismo y el concesionario OPAIN por este motivo y qué bueno que se preocupen. Sin embargo, el crecimiento en Colombia no puede seguir siendo a costa del otro.

Debemos ser responsables con las demandas del mercado y no terminar por matar el naciente boom turístico que hemos cosechado en los últimos años. Por ello, fue sorpresa cuando se hizo pública la noticia de que Avianca cancelaba su ruta Cartagena – Miami. Una ruta que tiene una rentabilidad promedio superior al 80% y que ha sido motor del turismo regional. Mientras tanto, aerolíneas del mundo entero piden ingresar a Cartagena porque ningún vuelo despega del Rafael Núñez con menos del 70% de ocupación.

Todavía está fresca en la memoria la batalla campal librada por bajar la tasa aeroportuaria de Cartagena – en su momento la más alta del país sin justificación alguna – y que logramos rebajar en un esfuerzo conjunto de ciudad. Ese hecho nos debe dar luces para nuevamente enfrentar una emboscada centralista. Porque no puede ser que utilicen la ciudad para promover Colombia, pero cuando toca defender sus intereses siempre sea Bogotá la estrella y Cartagena que se acomode.

Creo que es momento de iniciar un fuerte lobby desde la Alcaldía, la Corporación de Turismo, SACSA, Investin Cartagena, Consejo Gremial, la Gobernación de Bolívar, ICULTUR y la bancada del Congreso ante Avianca. Debemos manifestarle al Presidente de Avianca la importancia de seguir contando con su aerolínea y la disposición de ofrecerle más en nuestra ciudad. El Concejo Distrital podría por fin aprobar incentivos tributarios y un mejor presupuesto para que la Corporación de Turismo, con su Presidente actual, invierta más en la conectividad internacional del destino con otras aerolíneas.

Lo anterior, entonces, parecería indicar un fuerte lobby de las autoridades nacionales ante Avianca para que esta aerolínea centralice sus operaciones en El Dorado y se financie así el plan de expansión. Ojalá y no sea este el caso porque promover el crecimiento sacrificando a Cartagena sería un gesto centralista y canalla. Matar la conectividad de Cartagena por privilegiar El Dorado puede terminar matando los números del nuevo aeropuerto de nuestra ciudad, y no creo que OPAIN se ponga feliz con esa posibilidad al ser parte interesada.

Que este no sea un momento de señalamientos propios de un balde de cangrejos, más bien unámonos por este tipo de iniciativas que mucho beneficio le traen a la ciudad. Que sea este el primer hecho de unidad de los nuevos gobiernos territoriales porque el turismo sí es un norte que vale la pena.

*Director Temático del Departamento de Bolívar.

"Mad Men"

Por: Carlos Andrés Ramírez*

Parecen distantes los días donde el universo de personalidades y referentes se reducía a lo que la televisión, la prensa y la radio mostraban. Esos tiempos, mejores para unos peores para otros, ofrecían una estabilidad de la cual casi no queda rastro.

En el mundo moderno, muchos han puesto su privacidad al servicio de los likes y las interacciones, produciendo contenido suficientemente llamativo, no necesariamente de calidad. Quienes hoy en día son personajes anónimos caminando en una acera a medio día pueden ser el día de mañana nuestros referentes, así como pueden pasar en cuestión de minutos del anonimato al desprestigio. Desde futbolistas hablando de economía hasta curas católicos hablando de sexualidad.

De entrada puede parecer un escenario perturbador, pero en realidad lo que la tecnología permitió con esto es mostrar cómo es el ser humano en lo más profundo de su ser. Un animal en búsqueda de la eternidad, la divinidad y la trascendencia. La única especie conocida capaz de moldear el mundo y crear toda clase de fantasías, si su público lo permite.

No tenemos idea de lo que queremos, hasta cuando alguien más no lo muestra. Esto aplica en todas las dimensiones de la naturaleza humana y el marketing lo sabe muy bien. En un periodo muy corto, esta rama ha alcanzado niveles de sofisticación muy altos, procurando hacerse de toda clase de herramientas para entender mejor el inconsciente colectivo y ofrecer a la gente, básicamente, lo que quiere.

Quienes sean ajenos a esta les sorprenderá como en un poco más de 50 años los profesionales del marketing evolucionaron de las encuestas y los Focus Group, al Neuromarketing y finalmente a la inteligencia artificial para entendernos mejor que nosotros mismos. Con esto último, se han ahorrado incluso la molestia de preguntarnos para pasar directamente a entregarnos un producto terminado.

La máxima sofisticación son los productos humanos precisamente, por medio de los cuales se mueven otros productos y servicios, algunos más inútiles que otros, cuya vida útil muchas veces tiene los días contados como bien sucede con cientos de aspirantes a influencers, víctimas ante la imposibilidad de mantener a tope, por suficiente tiempo, los niveles de dopamina de su audiencia y de los algoritmos, si su naturaleza también fuese biológica, desde luego.

Son precisamente estos últimos quienes de a pocos están dictando el rumbo de la civilización, detectan tendencias, mueven masas y deciden que está o no de moda. A medida que los programadores los sofistican, parecen ir por su cuenta y necesitar cada vez menos de sus creadores. Llegado el momento, vale la pena preguntarnos si la especie humana no luchará ya contra la opresión, sino contra la intrascendencia. Incluso en el campo creativo podemos llegar a ser sustituidos por una máquina que, como bien indica Yuval Noah Harari en su libro 21 lecciones para el siglo XXI, musicalmente no necesitará superar a Tchaikovski. Bastará con que lo haga mejor que Britney Spears.

No necesariamente esto será malo. Puede que libere a miles de tareas inútiles para dedicar más tiempo a contemplar el cielo o mirar a los ojos de una mujer bonita. Puede que también, como ha sucedido con WhatsApp y el correo electrónico, nos condene a una vida de eterna conexión laboral, donde nos veamos obligados a contestar un correo urgente de un cliente mientras cuelga nuestra humanidad de un precipicio, tratando de llegar a la cima del Monte Everest. Sea cual sea el escenario, la historia nos dice que la humanidad no se detiene, solo que ese destino es radicalmente diferente siempre y cuando no olvidemos que, como bien dijo Don Draper en Mad Men: “las personas deseamos que nos digan lo que tenemos que hacer, por lo que escucharemos a cualquiera”, incluso, si ese cualquiera solo sea una supercomputadora de pequeños bombillos vibrantes, desprovista de consciencia, escondida en algún lugar de California.

*Miembro de número de la Dirección de Emprendimiento.

Carlos es Administrador de Empresas de la Universidad de la Sabana y Máster en Neuromarketing de la Universidad Internacional de la Rioja. Su experiencia y área de conocimiento abarcan mercadeo, innovación y desarrollo de nuevas tecnologías. También se ha desempeñado como blogger, youtuber y docente. Miembro activo de CEPI.