La ética de la IA en los seguros, con Lex Sokolin (Podcast)

Otras piezas de esta serie:

Lecciones aprendidas de Fintech con Lex Sokolin (Podcast)
Cómo la inteligencia artificial está cambiando los seguros, con Lex Sokolin (Podcast)

La inteligencia artificial (IA) debe ser objetiva. Más bien, refleja una discriminación humana implícita. Lex Sokolin, emprendedor futurista y de tecnología financiera, sobre lo que significa el sesgo de la IA para las aseguradoras y por qué no hay una solución fácil

enfatizar

Algunos casos de uso de la inteligencia artificial (IA) pueden ser bastante objetivos, por ejemplo, el uso de la IA para registrar daños en vehículos para acelerar el procesamiento de reclamaciones.
El sesgo puede convertirse en un problema cuando la IA se aplica a datos humanos. Por ejemplo, el conjunto de datos en el que se entrena la IA podría no ser lo suficientemente diverso, o una compañía de seguros podría usar datos proxy (como códigos postales) para discriminar inadvertidamente a ciertas personas.
La digitalización se está produciendo en los servicios financieros y los líderes deben cambiar su percepción de lo que es posible. Los titulares que entienden el futuro pueden rediseñarse mejor para competir en el futuro. Conclusión clave: quedarse quieto no es una opción.

La ética de la IA y lo que sucede cuando el sesgo humano se cruza con los algoritmos de las máquinas, con Lex Sokolin

Bienvenido de nuevo al Podcast de Accenture Insurance Influencer, donde echamos un vistazo a cómo podría ser el futuro de los seguros. En la temporada 1, exploramos temas como los autos sin conductor, la tecnología de detección de fraudes y el enfoque en el cliente.

Esta es la última de una serie de entrevistas con el futurista y empresario fintech Lex Sokolin. Hasta ahora, Lex ha hablado sobre la interrupción de los servicios financieros y la necesidad de que las aseguradoras aprendan cómo lo manejan otras verticales. También discutimos la automatización y la inteligencia artificial, y cómo la inteligencia artificial podría afectar los seguros.

En este episodio, exploramos la ética de la IA, cómo podría ser el futuro de los seguros y cómo las aseguradoras pueden prepararse para ello.

Las transcripciones a continuación han sido editadas por su extensión y claridad. Cuando entrevistamos a Lex, él era Director de Investigación Global investigación independiente;Desde entonces ha dejado la empresa.

Mencionaste que la IA tiene mucho espacio para crecer, y uno de los temas más interesantes es el concepto de discriminación y prejuicio, especialmente como dijiste en el último episodio, con la IA, no necesariamente sabes cómo será el resultado..

Especialmente con cosas como seguros o servicios financieros donde los resultados pueden tener un gran impacto en la vida de alguien, ¿cómo entran en la conversación la discriminación y los prejuicios?¿Cuáles son las responsabilidades de las personas que utilizan la IA para predecir o corregir?

Creo que hay una discusión acalorada en la esfera pública en este momento. Incluso en el ámbito político actual, dado todo lo relacionado con los bots de propaganda y los problemas electorales, y la capacidad de falsificar videos mediante el aprendizaje profundo, los problemas que rodean a esta tecnología ahora están siendo expuestos y cuestionados debido a estos problemas y sus implicaciones para la política. en la Cámara de Representantes. Definitivamente es positivo, ya no es 2015, es una incógnita. Pero la forma en que lo piensas tiene que ser muy, muy específica.

Supongamos que tienes una familia como facil de manejar, donde la IA apunta a daños u otros tipos de daños que se produzcan en el parabrisas de un coche. Tomas una foto, y luego los datos en esa foto pueden ser en tiempo real o similares, vinculados a la cantidad que podría costar repararla. En casos simples, eso podría ser suficiente para que la compañía de seguros lo deje pasar.

O puedes mirar algo como Aeróbicos Ahí tienes imágenes de drones de las tierras de cultivo, y en lugar de enviar personas a evaluar diferentes partes de las tierras de cultivo para ver qué está dañado, tomas una foto y puedes decir: "Está bien, hay agua en esta parte del medio ambiente, es 3% del stock total, así que ese es el impacto estimado".

En estos casos, no estás realmente en un lugar donde haya un problema ético. Es posible que tenga algo que decir acerca de la calidad de sus fotos o de tener que pagar por los datos. Pero en realidad es bastante objetivo.

Si ahora dirige su atención a los humanos e intenta analizar humanos y datos sobre humanos... hay muchos ejemplos de cómo se puede hacer esto, ya sea con datos sustitutos que ingresa en el proceso de suscripción o tratando de verificar el historial de pagos de alguien. o registro de crédito. Incluso si es similar a escanear una foto de pasaporte. Dependiendo de la raza de sus sujetos, una vez que se acerca a las personas como puntos de datos, comienza a considerar estos problemas éticos: ¿está viendo accidentalmente a las personas como una herramienta en lugar de verlas realmente como individuos?

¿Porque es esto importante?

Una de las funciones principales de Google Image Search, y la clasificación de imágenes que utiliza su red neuronal, es que es muy, muy bueno para distinguir entre perros y gatos. Es una tontería, pero mucha gente en Internet ha publicado fotos de perros y gatos. Hay muchos datos sobre esto y, de hecho, las máquinas son mejores que los humanos para distinguir entre diferentes razas de perros. Como puede imaginar, esta máquina hace mucho entrenamiento especial para gatos y perros, ve mucha variación y gasta mucha energía mental en las diferencias entre una raza y otra.

Luego, en el mismo algoritmo, el espacio para la distinción es mucho más pequeño, digamos varias prendas, o diferentes hitos históricos, o incluso diferencias entre personas. Menos cosas para rastrear. Puede ser realmente preciso en un lugar, pero no muy preciso en otro.

Un estudio reciente investigó esto y descubrió que la IA es muy, muy buena para distinguir entre blancos y hombres, con una tasa de error de alrededor del 2 % o 3 %, por debajo del 4 % o 5 % de tasa de error que cometen los humanos. En este caso, las máquinas son mejores que los humanos.

Cuando miras a los afroamericanos, la máquina comete un error del 30 % porque no tiene suficientes datos para diferenciar a las personas. Los desarrolladores del algoritmo tuvieron el problema de no considerar que habría que ampliar el conjunto de datos para que el reconocimiento facial tuviera mayor fidelidad y precisión.

Imagina a alguien intentando abrir una cuenta usando su teléfono móvil. Si mira hacia un lado, su foto abrirá la cuenta en cinco minutos. Si miras para otro lado, no podrás acceder a la aplicación porque otras personas como tú están en la plataforma.

Empeora a medida que avanza en áreas como la suscripción de crédito y los préstamos digitales, ya que puede estar tomando decisiones en función de los códigos postales asociados con categorías protegidas según la ley de los EE. UU. Sin darse cuenta, permite que los algoritmos tomen estas decisiones, que están sesgadas artificialmente en su contra.

¿Qué significa esto para los desarrolladores y usuarios de IA?

No hay respuestas fáciles, aparte de revelar datos sobre todos los problemas éticos que podemos encontrar en la sociedad humana a través de la ley. Entonces, la única forma es arreglar el equipo que está creando el software, porque no se puede tener un equipo que no sea diverso en términos de origen étnico y económico. No se puede tener un solo equipo para resolver estos problemas. Por supuesto, retrocede hasta la sociedad humana y las personas que construyeron estas cosas. Creo que es tanto un cambio generacional como un cambio de conciencia.

Esta fue una discusión interesante y desearía que tuviéramos más tiempo. Hemos discutido muchas ideas importantes.¿Cómo pueden las aseguradoras existentes traducir estas grandes ideas en acciones concretas?

Una cosa acerca de todas estas tendencias es que siguen siendo relevantes para los humanos. Incluso si estamos hablando del futuro y suena como Terminator o Blade Runner o su película de ciencia ficción favorita, todo lo que estamos hablando está aquí hoy.

Desde la perspectiva de los seguros, podría decir intuitivamente: "Oh, el mayor problema es que en China las compañías de seguros también son compañías de medios y chatean, por lo que son mejores para captar consumidores". O podría decir: "Nos preocupa la automatización del cifrado y los contratos inteligentes, y el hecho de que todos los archivos que las compañías de seguros mezclen ahora serán códigos".

Pero creo que está enfocado en el martillo. No se enfoca en la persona con el martillo. Si puedo enfatizar una cosa, es que lo más importante que deben hacer las aseguradoras es no sentir que se han librado de los inconvenientes desafíos que surgen de la industria insurtech. No es que pueda elegir un lote de nuevas empresas en etapa inicial de una sola vez, porque eso es solo un síntoma.

Estamos en un momento en que toda la industria se está volviendo digital y lo único que puedes hacer es cambiar tus creencias sobre lo que es posible. Creo que lo que tenemos que hacer en el C-suite de estas empresas es ser abiertos sobre lo que la gente quiere lograr, por qué quieren lograrlo y las tendencias subyacentes que están produciendo esos resultados.

Una vez que haya pasado por este proceso, es casi imposible confiar en nada, excepto en 10 o 20 años, todo es completamente digital, entregado a su teléfono, AI primero, alimentado por varias cadenas de bloques (ya sean públicas o privadas) está respaldado, consumidor -céntrica, y los datos son propiedad del consumidor. Quiero decir que es una observación trivial porque eso es lo único que podría pasar.

La pregunta es: si dirige una gran compañía de seguros, ¿cómo llega a este punto sin destruir el valor para los accionistas?Y luego también siendo un buen jugador en el ecosistema y permitiendo que las personas creen valor sin optar por ello.

Animaría a los titulares a considerar realmente una solución rápida para su modelo heredado. Si tiene un grupo de ingresos u otras partes de su negocio que cree que están realmente bien protegidas, probablemente debería arrojar el fuego primero. Encuentre formas de convertirlo en un negocio digital primero. Una cosa que viene a la mente son las tarifas de administración de activos que las compañías de seguros pueden pagar por sí mismas porque administran todas esas primas. Estas tarifas de administración de activos son tres veces más de lo que obtendría con un asesor robótico en el mercado abierto, o más.

Realmente comienza con comprender cómo se ve el futuro y luego rediseñar sus propios titulares digitales primero que tendrán la oportunidad de competir con las empresas tecnológicas asiáticas y las fintech, una combinación de Silicon Valley que se fortalece cada año.

No creo que se pueda exagerar esto porque el estancamiento es enormemente disruptivo y crea vulnerabilidades en toda la industria. Así que espero que esto se transmita, y espero que algunos de sus oyentes se sientan impulsados a hacer esta exploración existencial por sí mismos.

Muchas gracias por tomarse el tiempo para hablar con nosotros hoy, Lex. Fue una conversación muy interesante y creo que hay mucho que aprender, ya sea que sea una empresa nueva o un jugador establecido en el espacio de los seguros.

Mi placer. Muchas gracias por invitarme.

generalizar

En este episodio del podcast Accenture Insurance Influencer, hablamos de:

Aplicaciones de IA que normalmente no contienen sesgos, por ejemplo, usar IA para registrar daños en vehículos para acelerar el procesamiento de reclamos.
Aplicaciones de IA donde se debe considerar y mitigar el sesgo. Por ejemplo, capacitar a la IA en conjuntos de datos que están subrepresentados por minorías podría resultar en que esas minorías no puedan usar aplicaciones diseñadas para simplificar el proceso de apertura de cuentas, así como consecuencias más significativas, como que se les nieguen las aplicaciones de préstamo.
Quedarse quieto no es una opción. A medida que continúa la digitalización, los líderes deben cambiar la forma en que ven el futuro y rediseñarse para competir de manera efectiva.

Más orientación sobre IA y transformación digital:

Lea cómo la transformación digital está remodelando la industria de seguros.
Conozca cinco tendencias tecnológicas que las aseguradoras deben conocer en 2019.

Esto concluye nuestra entrevista con Lex Sokolin. Si te gusta esta serie, echa un vistazo a nuestra serie con Ryan Stein. Director Ejecutivo de Política e Innovación de Seguros de Automóviles de Ryan Oficina de Seguros de Canadá (IBC), quien nos presentó los autos sin conductor y su impacto en los seguros.

Estén atentos ya que lanzaremos contenido nuevo en unas pocas semanas. Matthew Smith de la Coalición contra el Fraude de Seguros Hablará sobre todo lo relacionado con el fraude: quién lo comete, cuánto cuesta y cómo cambia a medida que cambia la tecnología. Mientras tanto, puedes escuchar su respuesta a la pregunta rápida aquí. Suscríbete a podcasts para obtener nuevos episodios a medida que salen.

Qué hacer a continuación:

Visite com/insuranceinfluencers para obtener más información o suscríbase directamente aquí:

Si desea ser un invitado en el podcast Insurance Influencers, comuníquese con nosotros.

Entradas relacionadas

Deja una respuesta Cancelar la respuesta