La inteligencia artificial plantea muchos riesgos éticos para las empresas: puede promover el sesgo, provocar invasiones de la privacidad y, en el caso de los coches autónomos, incluso provocar accidentes mortales. Debido a que la IA está diseñada para operar a escala, cuando se produce un problema, el impacto es enorme. Las fuentes de los problemas de la IA son muchas.
En agosto del 2022 la Harvard Business Review publicó un extenso artículo de Reid Backman dedicado al comité de ética de la IA. En el artículo comentan que hay muchos riesgos éticos bien documentados y muy publicitados asociados con la IA; los prejuicios involuntarios y las invasiones de la privacidad son solo dos de los tipos más notables. En muchos casos, los riesgos son específicos de usos particulares, como la posibilidad de que los coches autónomos atropellen a los peatones o que los canales de noticias de las redes sociales generados por la IA generen desconfianza en las instituciones públicas. En algunos casos son importantes amenazas para la reputación, la regulación, las finanzas y la ley. Debido a que la IA está diseñada para operar a escala, cuando ocurre un problema, afecta a todas las personas con las que interactúa la tecnología, por ejemplo, a todos los que responden a una oferta de trabajo o solicitan una hipoteca en un banco. Si las empresas no abordan cuidadosamente las cuestiones éticas a la hora de planificar y ejecutar proyectos de IA, pueden perder mucho tiempo y dinero desarrollando software que, en última instancia, es demasiado arriesgado de usar o vender, como muchos ya han aprendido.
La estrategia de IA de su organización debe tener en cuenta varias preguntas: ¿Cómo podría la IA que diseñamos, adquirimos e implementamos plantear riesgos éticos que no se pueden evitar? ¿Cómo los identificamos y mitigamos de forma sistemática y exhaustiva? Si los ignoramos, ¿cuánto tiempo y trabajo nos llevaría responder a una investigación regulatoria? ¿Qué importe podríamos pagar si nos declaran culpables, y mucho menos negligentes, de infringir reglamentos o leyes? ¿Cuánto tendríamos que gastar para restablecer la confianza del consumidor y del público, siempre que ese dinero pudiera resolver el problema?
Las respuestas a esas preguntas subrayarán cuánto necesita su organización un programa de riesgo ético de la IA. Debe empezar por el nivel ejecutivo y permear en las filas de su empresa y, en última instancia, en la propia tecnología.
La función y la jurisdicción de un Comité de Ética de la IA
Según Reid Blackman, un comité de ética de la IA puede ser una nueva entidad de su organización o un organismo existente al que asigne responsabilidad. Y si su organización es grande, puede que necesite más de un comité.
A un alto nivel, la función del comité es sencilla: identificar de forma sistemática y exhaustiva y ayudar a mitigar los riesgos éticos de los productos de IA que se desarrollan internamente o se adquieren a terceros proveedores. Cuando los equipos de productos y aprovisionamiento presenten una propuesta de solución de IA, el comité debe confirmar que la solución no plantea riesgos éticos graves; recomendar cambios en la misma y, una vez adoptados, revisarla por segunda vez o desaconsejar el desarrollo o la adquisición total de la solución.
Una pregunta importante que debe examinar es cuánta autoridad tendrá el comité. Si no es necesario consultarlo, sino que simplemente se recomienda, solo un subconjunto de sus equipos (y probablemente uno pequeño) lo hará. Y solo un subconjunto de ese subconjunto incluirá las recomendaciones del comité. Esto es arriesgado. Si ser éticamente sólido está en la cima de la pirámide de valores de su empresa, es una buena idea conceder al comité el poder de vetar propuestas. Eso garantizará que tenga un verdadero impacto en la empresa.
Además, puede reforzar el trabajo del comité reconociendo regularmente a los empleados, tanto de manera informal (por ejemplo, con saludos en las reuniones) como formalmente (quizás mediante ascensos) para defender y reforzar sinceramente los estándares éticos de la IA.
Cuando a un comité se le da un poder real, se crea una gran confianza entre los empleados, los clientes, los consumidores y otras partes interesadas de la empresa, como el gobierno, especialmente si la organización es transparente en cuanto a las operaciones del comité, aunque no en cuanto a sus decisiones exactas. Sin embargo, las empresas que no están preparadas para conceder ese tipo de autoridad a un comité interno, pero que se toman en serio la mitigación ética del riesgo de la IA, pueden encontrar un término medio. Pueden permitir que un alto ejecutivo, muy probablemente alguien de la alta dirección, invalide el comité, lo que permitiría a sus organizaciones asumir riesgos éticos que consideren que valen la pena.
¿Quién tiene que estar en su comité de ética de la IA y por qué?
- Expertos en ética: podrían ser personas con doctorados en filosofía que se especializan en ética, digamos, o personas con maestrías en ética de la justicia penal (o cualquiera que sea su industria). Sin embargo, no están ahí para tomar decisiones sobre la ética de la empresa. Están ahí porque tienen la formación, los conocimientos y la experiencia necesarios para comprender y detectar una amplia gama de riesgos éticos, están familiarizados con los conceptos y distinciones que ayudan en las deliberaciones éticas claras y son hábiles para ayudar a los grupos a evaluar objetivamente las cuestiones éticas. Esto no quiere decir que necesite especialistas en ética a tiempo completo, sino que puede traerlos y consultarlos cuando sea apropiado.
- Abogados: dado que las herramientas técnicas no son suficientes para resolver el problema del sesgo, lo que está legalmente permitido a menudo se convierte en una consideración importante. Los abogados, por supuesto, están mejor equipados que nadie para averiguar si el uso de una métrica concreta en aras de la equidad que tiene diferentes efectos en diferentes subgrupos podría considerarse discriminación según la ley. Pero los abogados también pueden ayudar a determinar si el uso de herramientas técnicas para evaluar la equidad es legal. Puede que esté prohibido por la ley contra la discriminación, que no permite que los datos sobre variables asociadas a las clases protegidas se tengan en cuenta en una amplia gama de decisiones.
- Estrategas empresariales: Los rendimientos financieros esperados de la IA difieren de los de uso a uso, y también los riesgos para la empresa (se han hecho promesas a los clientes y se han firmado contratos). La magnitud y los tipos de riesgos éticos también varían, junto con las estrategias para abordarlos y las inversiones de tiempo y dinero que requerirán esas estrategias. Entonces, qué tácticas de mitigación adoptar, cuándo tomarlas, quién debe ejecutarlas, etc., es una consideración empresarial. Y aunque tiendo a dar prioridad a la identificación y mitigación del riesgo ético, debo admitir que, en algunos casos, ese riesgo es lo suficientemente pequeño y otros riesgos empresariales son lo suficientemente grandes como para que sea razonable adoptar un enfoque comedido para gestionarlo. Por todo esto, tener a alguien con un firme control de las necesidades de la empresa en el comité es en sí mismo una necesidad empresarial.
- Tecnólogos: aunque he explicado lo que los tecnólogos no pueden hacer, también debo reconocer lo que pueden hacer: ayudar a los demás a comprender los fundamentos técnicos de los modelos de IA, la probabilidad de éxito de varias estrategias de mitigación de riesgos y si algunas de esas estrategias son factibles. Por ejemplo, el uso de la tecnología para marcar posibles sesgos presupone que su organización tiene y puede utilizar datos demográficos para determinar cómo la producción de una modelo distribuye bienes o servicios entre varias subpoblaciones. Pero si carece de esos datos demográficos o, como ocurre en los servicios financieros, está legalmente prohibido recopilarlos, se verá obstaculizado. Tendrá que recurrir a otras estrategias, como la creación de datos sintéticos para entrenar su IA. Y si esas estrategias son tecnológicamente posibles y, de ser así, lo pesadas que son, es algo que solo un tecnólogo puede decirle. Esa información debe figurar en las deliberaciones del comité.
- Exploradores de prejuicios y expertos en la materia: las herramientas técnicas de mitigación de sesgos miden la producción de los modelos de IA, una vez que se han elegido los conjuntos de datos y se han entrenado los modelos. Si detectan un problema que no se puede resolver con unos ajustes relativamente mínimos, tendrá que volver a la mesa de dibujo. Comenzar la mitigación en el primer paso del desarrollo del producto, durante la recopilación de datos y antes de la formación de modelos, sería mucho más eficiente y aumentaría considerablemente sus posibilidades de éxito.
Por eso se necesitan personas en su comité que puedan detectar los sesgos al principio del proceso. Los expertos en la materia suelen ser buenos en esto. Si su IA se desplegará en la India, por ejemplo, un experto en la sociedad india debería intervenir en su desarrollo. Esa persona puede entender que es probable que la forma en que se recopilaron los datos haya sub muestreado a algún subconjunto de la población, o que alcanzar el objetivo establecido para la IA puede exacerbar una desigualdad existente en el país.
Para finalizar, un comité de ética de la inteligencia artificial sólido es una herramienta esencial para identificar y mitigar los riesgos de una tecnología potente que promete grandes oportunidades. No prestar mucha atención a la forma en que crea ese comité y a la forma en que se incorpora a su organización podría ser devastador para la reputación de su empresa y, en última instancia, sus resultados finales.
Si bien es cierto la IA ha tenido un impacto tanto positivo como negativo
En lo positivo ayudándonos en campos como la medicina, seguridad e industria con un trabajo más eficiente, preciso y a su vez multiplicando la producción en un tiempo menor y sin intervención humana, pero si nos ponemos a pensar tanta producción ¿para quién?, si va a llegar un punto donde cada vez existan mas desempleados que les será imposible pagar por tal producción,
pero nombrando uno de los efectos negativos mas evidente de la IA como el uso malintencionado o inadecuado que se le pueda dar ejemplo: guerras cibernéticas, retos con la equidad y toma de decisiones cruciales como seria en la medicina donde necesita una explicación más empática.
Por ello y más a mi criterio es imprescindible el interés de promover el comité de ética para que plantee políticas a las empresas u organismos acogiéndose a responsabilidades al momento de crear una IA para que no tenga efectos perjudiciales en la sociedad y nos garantice una sana convivencia entre nosotros
Estimada Emilia,
Has abordado un tema de gran relevancia con una perspectiva equilibrada y profunda. Es innegable que la Inteligencia Artificial ha traído avances significativos en áreas como la medicina, la seguridad y la industria. Sin embargo, como bien señalas, también ha planteado desafíos éticos, sociales y económicos que debemos enfrentar como sociedad.
Tus observaciones sobre el desempleo y el potencial sobreproducción son muy atinadas. Es un dilema que muchas sociedades están enfrentando actualmente, y es esencial que busquemos soluciones sostenibles y éticas para garantizar un equilibrio entre el avance tecnológico y el bienestar social.
En cuanto a los riesgos asociados con un uso inadecuado de la IA, es evidente que necesitamos políticas y regulaciones efectivas para evitar consecuencias no deseadas, especialmente en áreas sensibles como la medicina y la seguridad cibernética.
Emilia, compartimos tu opinión sobre la necesidad imperativa de un comité de ética para la IA. Su papel es esencial para garantizar que la implementación de esta tecnología se haga de forma responsable, teniendo en cuenta el bienestar de la sociedad en su conjunto.
Te agradecemos por tu valiosa contribución a esta discusión. Es a través de diálogos como este que podemos trabajar juntos para garantizar un futuro donde la IA se desarrolle y se aplique de manera ética y beneficiosa.
Saludos cordiales,
Equipo de CreaInnova Institute™ & Innovation Factory™ Institute
La integración de la inteligencia artificial (IA) en las empresas es una tendencia creciente que promete mejorar la eficiencia, la toma de decisiones y la competitividad. Sin embargo, esta adopción debe ir de la mano con una profunda reflexión ética por parte de las organizaciones. Un comité de ética dedicado a la inteligencia artificial puede ser una herramienta valiosa para las empresas que buscan integrar la IA de manera ética y responsable en sus operaciones. Ayuda a garantizar que se tomen decisiones informadas, se promueva la transparencia y se aborden las preocupaciones éticas en el desarrollo y la implementación de sistemas de IA. En un mundo donde la tecnología avanza rápidamente, la ética no debe quedar atrás, y un comité de ética puede ser un paso importante en la dirección correcta.
Estimado Brandon,
Apreciamos tu continua aportación al tema de la ética en la Inteligencia Artificial. Estás absolutamente en lo correcto al destacar la necesidad de que las empresas integren la IA de una manera que sea no sólo eficiente, sino también ética y transparente.
Nos alegra ver que subrayas la importancia de contar con un comité de ética dedicado a la inteligencia artificial. Estos comités pueden servir como un faro de guía, especialmente en un terreno tan nuevo y en constante evolución como es la IA. Las decisiones tomadas hoy en el ámbito de la IA tendrán un impacto duradero, y es crucial que esas decisiones estén fundamentadas en principios éticos sólidos.
La rapidez con la que avanza la tecnología es impresionante, pero como bien señalas, no podemos permitir que el progreso tecnológico nos lleve a descuidar nuestras responsabilidades éticas. Las empresas tienen el deber no sólo hacia sus accionistas, sino también hacia la sociedad en general, de garantizar que cualquier adopción de IA se haga de manera responsable y ética.
Te agradecemos nuevamente por compartir tus perspectivas. Son este tipo de reflexiones las que impulsan un desarrollo tecnológico más consciente y ético.
Saludos cordiales,
Equipo de CreaInnova Institute™ & Innovation Factory™ Institute
Siempre me he preguntado ¿Qué pasaría si la Inteligencia Artificial tuviera el control de todo? y leyendo este blog y analizando la situación obtengo como respuesta que sería un caos total, debido a los problemas que puede ocasionar como por ejemplo menciona el blog, los accidentes de los autos que se manejan por si solos o el robo de información privada, y por eso que un comité de ética en inteligencia artificial es esencial para abordar los desafíos éticos que surgen a medida que la IA se vuelve más presente en nuestras vidas. Ayuda a garantizar que la IA se desarrolle y utilice de manera ética, equitativa y responsable para el beneficio de la sociedad en general.
Estimado Brando René,
Te agradecemos que hayas compartido tus reflexiones con nosotros. Es evidente que has dedicado tiempo a pensar en las implicaciones y los potenciales desafíos de la Inteligencia Artificial en nuestra sociedad.
Compartimos tu preocupación sobre los posibles problemas que la IA podría causar si se le diera control absoluto. Como bien señalas, hay múltiples ejemplos, como los accidentes de vehículos autónomos o problemas de seguridad en la información, que subrayan la necesidad de abordar los desarrollos de IA con precaución y consideración.
Tu mención sobre el papel de un comité de ética es crucial. En efecto, a medida que la IA se integra más en nuestra vida diaria, es esencial que haya estructuras en lugar que ayuden a guiar su desarrollo y aplicación de manera que se alinee con nuestros valores y prioridades como sociedad. Estos comités tienen la tarea vital de equilibrar la innovación con la responsabilidad, garantizando que la IA no solo sea poderosa y eficiente, sino también segura, justa y ética.
Tu perspectiva aporta valiosamente al diálogo en curso y reitera la importancia de un enfoque cauteloso y bien informado hacia la IA. Gracias por tomarte el tiempo de compartir tus pensamientos con nosotros.
Saludos cordiales,
Equipo de CreaInnova Institute™ & Innovation Factory™ Institute
Estoy de acuerdo en que las cuestiones éticas en relación con la inteligencia artificial (IA) son de vital importancia. La IA tiene el potencial de impactar significativamente en diferentes aspectos de nuestra sociedad, como la reputación, la regulación, las finanzas y la ley.
Si las empresas no abordan adecuadamente las implicaciones éticas al desarrollar proyectos de IA, pueden enfrentar diversas consecuencias negativas.
El papel del comité ético en el desarrollo y adquisición de productos de IA es crucial para garantizar que se mitiguen los riesgos éticos asociados. Al evaluar de manera sistemática y exhaustiva las propuestas de soluciones de IA, el comité puede identificar posibles riesgos éticos y recomendar cambios necesarios.
Estimada Narcisa,
Gracias por tu comentario. Tu reconocimiento de los amplios impactos de la IA en diversos aspectos de nuestra sociedad subraya la urgencia con la que estas cuestiones deben ser abordadas.
Estás en lo cierto al señalar que el fracaso en abordar adecuadamente las implicaciones éticas puede llevar a consecuencias negativas. No se trata solo de potenciales sanciones regulatorias, sino también del daño a la reputación y la confianza del público, que pueden ser difíciles, si no imposibles, de recuperar.
Tu énfasis en la evaluación sistemática y exhaustiva es especialmente relevante. Un proceso detallado y riguroso puede ayudar a identificar no solo riesgos evidentes, sino también aquellos que podrían haberse pasado por alto en una revisión superficial. Las soluciones de IA, por su naturaleza, a menudo son complejas y pueden tener consecuencias no previstas, haciendo que esta evaluación profunda sea aún más esencial.
Narcisa, tus palabras refuerzan la idea de que una aproximación responsable y bien informada al desarrollo y adquisición de soluciones basadas en IA es esencial en el mundo empresarial actual. Gracias por aportar tu valiosa perspectiva al diálogo en curso sobre este tema.
Un cordial saludo,
Equipo de CreaInnova Institute™ & Innovation Factory™ Institute
La inteligencia artificial plantea muchos riesgos éticos para las empresas, desde prejuicios y violaciones de la privacidad hasta accidentes potencialmente fatales en situaciones como los vehículos autónomos. Estos riesgos pueden tener importantes consecuencias reputacionales, regulatorias, financieras y legales para las empresas que desarrollan o utilizan inteligencia artificial. Para resolver estas cuestiones éticas, se recomienda que se establezca un comité de ética de IA dentro de la organización. El comité debería poder identificar y mitigar de forma sistemática y exhaustiva los riesgos éticos asociados con los productos de IA. Sus poderes y autoridad deben ser suficientes para garantizar que sus recomendaciones sean efectivas y tengan un impacto real en la empresa. Además, deben incluir una variedad de expertos, incluidos especialistas en ética, abogados, estrategas comerciales, expertos en tecnología e investigadores de prejuicios, para abordar diversos aspectos de los riesgos éticos de la IA.
En definitiva, la creación y la implementación de un sólido comité de ética de la inteligencia artificial son esenciales para garantizar que las empresas puedan aprovechar las oportunidades que ofrece la IA de manera ética y responsable, evitando posibles consecuencias negativas en su reputación y resultados finales.
Estimada Emily,
muchas gracias por tu comentario. Tu reflexión nos recuerda la creciente necesidad de que las organizaciones se adentren en una comprensión más profunda de los riesgos éticos inherentes al uso de la IA.
Coincidimos contigo en que el surgimiento de desafíos éticos, desde sesgos inadvertidos hasta violaciones de la privacidad, requiere una atención especial. Como señalas, la implementación de un comité de ética sólido no es simplemente una cuestión de cumplimiento; es fundamental para asegurar que las empresas actúen de manera responsable y salvaguarden su reputación en el mercado.
La diversidad de expertos en el comité que mencionas es, sin duda, esencial. La combinación de expertos en ética, abogados, estrategas empresariales, tecnólogos y expertos en prejuicios garantiza que todas las facetas de un problema ético se examinen desde múltiples perspectivas, proporcionando soluciones más holísticas y robustas.
Lo más importante, como señalaste, es que este comité no sea simplemente una formalidad, sino que tenga el poder y la autoridad para influir en decisiones significativas. La transparencia en sus operaciones y decisiones fortalecerá la confianza no solo entre los empleados sino también entre los stakeholders, desde clientes hasta organismos reguladores.
Emily, tu reflexión destaca la importancia de no solo adoptar tecnologías avanzadas, sino también de hacerlo con una conciencia y responsabilidad ética. A medida que avanzamos en esta era de la IA, debemos recordar constantemente que con el gran poder viene una gran responsabilidad. Tu comentario es un recordatorio valioso de esto.
Gracias por compartir tus pensamientos con nosotros.
Un cordial saludo,
Equipo de CreaInnova Institute™ & Innovation Factory™ Institute