IA responsable
Pioneros en el desarrollo de soluciones de Inteligencia Artificial ética y responsable
En Sngular llevamos varios años trabajando a nivel técnico en diferentes proyectos que precisan de arquitecturas de datos y algoritmos de inteligencia artificial. Por otro lado, Eticas es referente en el campo de las auditorías de algoritmos tanto en ámbito público como privado.
Hemos construido un partnership con Eticas para aplicar una metodología de trabajo conjunta y ágil en proyectos técnicos de terceros, con el objetivo de desarrollar, supervisar, evaluar y auditar algoritmos cuyas decisiones tengan un impacto directo o indirecto en las personas.
¿En qué consiste nuestra metodología?
Si el algoritmo ya existe, independientemente de si se encuentra en fase de desarrollo o en producción, realizamos una evaluación de la toma de decisiones así como una pequeña auditoría que permita identificar puntos de mejora a nivel ético, de transparencia y/o de fiabilidad. Después, a partir de una propuesta técnica, se implementarían esos cambios a nivel técnico si así lo precisa el cliente.
Si el algoritmo aún se encuentra en fase de ideación y/o no se dispone de un equipo técnico para desarrollarlo, aplicamos la metodología completa en la que el desarrollo técnico incluye supervisión y evaluación contínua que permite obtener como resultado un algoritmo fiable, ético y auditado.
«Los algoritmos nos rodean y cada vez toman decisiones sobre aspectos más importantes de nuestra vida sin que seamos conscientes de que existen».
Gemma Galdón Fundadora y CEO de Eticas«La metodología conjunta que proponemos facilitará no sólo cumplir con un marco legal en el desarrollo de proyectos sino también acelerar y aportar solidez en el paso de prueba de concepto a producción; los clientes contarán con expertos en desarrollo técnico y legal».
Nerea Luis Artificial Intelligence Lead de SngularAplicaciones y tipos de proyectos
-
Posible discriminación a sectores concretos de la población
-
Detección de sesgos en los algoritmos
-
Primeros pasos en Inteligencia Artificial de alto impacto
-
Algoritmos de reconocimiento facial justos
-
Mejoras a implementar para cumplir con futuras normativas europeas
-
Sectores de alto riesgo: empleo, salud, educación, seguridad, justicia y servicios sociales
Ejemplos por área de aplicación
-
Advanced Analytics
Análisis de riesgos en banca, salud y otros sectores con garantías de equidad, acierto y explicabilidad.
Eliminación de sesgos en sistemas de Machine Learning existentes.
Sistemas de gestión y concesión de ayudas auditables e integrados en organizaciones complejas.
Desarrollo e integración de sistemas algorítmicos en procesos de interacción humano-máquina.
Integración y documentación de medidas de Privacy by Design.
-
Computer Vision / Edge Computing
Biometría y reconocimiento facial para autenticación siguiendo principios de necesidad y proporcionalidad.
Dispositivos smart con gestión y análisis local de datos personales, protegiendolos y generando confianza en los usuarios.
Conteo y seguimiento de personas en espacios público o privados sin vulnerar privacidad y con garantías de cumplimiento legal.
-
Conversational Assistants / Natural Language Processing
Análisis de discursos del odio con énfasis en el etiquetado y la robustez científica de las variables elegidas.
Sistemas conversacionales adaptados a diferentes contextos y respetuosos con diferentes perfiles de usuario.
Clasificación automática de material en formato texto integrado en sistemas complejos de reporting y con definición de requerimientos de entrada de datos para mejorar tasa de acierto.
-
¡Conócenos!
Contactar¡Contacta con nosotros! Escríbenos y cuéntanos lo que necesitas.
-
¡Únete a SNGULAR!
Ver ofertasConoce las ofertas de empleo y únete a este ecosistema en crecimiento.