La empresa emergente Diveplane quiere que la IA sea ética:el director ejecutivo explica lo que eso significa

Crédito:Pixabay/CC0 Dominio público

En el mundo actual, la inteligencia artificial se utiliza para tomar algunas decisiones importantes. Las universidades confían en él para admitir estudiantes. Las juntas de libertad condicional lo usan para aprobar o denegar la liberación de los reclusos.

Una empresa nueva en el Triángulo de Investigación de Carolina del Norte se esfuerza por hacer que los sistemas de IA sean más éticos, y la compañía ha obtenido una financiación significativa para hacerlo. El lunes, Diveplane anunció que había recaudado $ 25 millones en fondos de la Serie A, dinero importante para la inversión inicial. La empresa de Raleigh se enorgullece de crear inteligencia artificial ética, el uso responsable de las máquinas mediante la identificación y corrección de sesgos no deseados.

Diveplane fue cofundado en 2018 por Michael Capps, ex presidente de Epic Games, con sede en Cary, Carolina del Norte. En los últimos cuatro años, Diveplane ha atraído a varios clientes e inversores notables, incluidas varias estrellas del fútbol estadounidense.

Ahora respaldado con millones adicionales de capital de riesgo y firmas de defensa, Diveplane busca expandirse, con el objetivo final de remodelar los sistemas de IA que han llegado a dictar gran parte de la vida diaria.

Entonces, ¿qué hace que el enfoque de Diveplane hacia la IA sea único? ¿Y qué tan grande espera llegar? El 15 de septiembre, Capps habló con The News &Observer para discutir. Aquí hay cinco conclusiones importantes:

IA explicable frente a caja negra

Diveplane proporciona lo que se conoce como inteligencia artificial explicable, sistemas que permiten a los humanos comprender mejor cómo llegaron a ser los resultados de las máquinas. Con esta claridad, Capps dijo que las organizaciones pueden identificar mejor las fallas que pueden producir resultados sesgados.

"Para que eso (suceda), se requiere un toque humano", dijo Capps. "Esa evaluación de poder volver atrás y decir:'No es así como queríamos contratar gente en nuestra empresa. Esta IA hizo algo mal. Vamos a arreglarlo'".

La IA explicable contrasta con el tipo de IA más comúnmente utilizado en la actualidad, los sistemas de redes neuronales, modelados a partir de las funciones biológicas del cerebro humano. La mayoría de los sistemas de redes neuronales, dijo Capps, se conocen como "IA de caja negra", lo que significa que nadie, ni las organizaciones que usan la tecnología ni las personas afectadas por ella, pueden ver exactamente cómo funcionan.

"Puede funcionar muy bien, pero puede que no", dijo. "Y el hecho de que no lo sepamos, pero que se esté utilizando para tomar una decisión tan crítica, se siente inapropiado. Más que inapropiado, me molesta".

Ampliación

Diveplane cuenta con Duke Health y el equipo de carreras de autos Roush Fenway Keselowski Racing entre sus clientes de Carolina del Norte. Capps dijo que Diveplane tiene como objetivo utilizar su financiación reciente para atraer a más clientes en defensa, seguros y finanzas.

"Este es un verdadero negocio real", dijo. "Ahora, averigüemos cómo empezar a escalarlo".

Capps espera que Diveplane algún día pueda ayudar a desplazar las tecnologías de caja negra, y dijo que los inversores han comenzado a ver que la IA explicable tiene un mercado. A medida que los consumidores se vuelven más conscientes de la ética de la IA, dijo que las empresas y organizaciones se han sentido presionadas para garantizar que sus sistemas sean transparentes.

En una señal de esta creciente conciencia, Capps forma parte del consejo de liderazgo de Data and Trust Alliance, un grupo de ejecutivos de importantes empresas como Walmart, Starbucks, Nike y CVS que se han comprometido a promover sistemas de aprendizaje automático e inteligencia artificial más responsables.

Nueva oficina, doble personal

Con su último financiamiento, Diveplane busca duplicar su fuerza laboral de alrededor de 20 a 40 empleados. Capps señaló que espera que esta sea solo la primera de muchas expansiones laborales.

Su empresa también está abriendo una nueva oficina en el desarrollo Smoky Hollow en el centro de Raleigh. A pesar de la sede entrante, Capps dijo que muchos trabajadores de Diveplane pueden tener su sede fuera de la ciudad o el estado.

"Quería construir una empresa de tecnología con sede en Raleigh con los talentos aquí, pero el mundo cambió mucho con el trabajo remoto", dijo. "Entonces, es una tontería por nuestra parte no lanzar una red muy amplia. Además, las personas que se preocupan por lo que hacemos, la forma en que lo hacemos, están en todas partes. Estamos buscando verdaderos creyentes". en la misión."

Inversores con una patada

Algunos de los primeros inversionistas de Diveplane fueron atletas de alto perfil como los futbolistas estadounidenses Becky Sauerbrunn, Megan Rapinoe y la alumna de UNC Mia Hamm. La basquetbolista retirada Sue Bird (prometida de Rapinoe) y el exbeisbolista Nomar Garciaparra (esposo de Hamm) también invirtieron.

Capps se conectó por primera vez con muchos de los jugadores a través de su participación en una empresa emergente de impresión 3D llamada Carbon. Capps y Hamm fueron asesores, mientras que otros invirtieron. Carbon resultó ser un éxito, y Rapinoe, Hamm y otros se mostraron abiertos a invertir cuando Capps mencionó su idea de una nueva empresa ética de IA.

Lecciones de Epic

De 2004 a 2013, Capps fue presidente de Epic Games, el creador de títulos de videojuegos con sede en Cary como Fortnite, Rocket League y Gears of War. Si bien Capps no estuvo con la compañía para su mayor éxito, Fortnite, dijo que había una ambición en Epic que cree que se ha traducido en Diveplane.

"Aquí, es un negocio totalmente diferente (de Epic), pero creo que tenemos esta expectativa central de excelencia", dijo. "Nunca hubo ninguna duda (en Epic) de que no iba a ser enorme, y creo que eso se aplica mucho a esto". + Explora más