Google despide al segundo líder en ética de IA por disputa sobre investigación,


Google de Alphabet Inc despidió a la científica Margaret Mitchell el viernes, dijeron ambos, una medida que avivó las divisiones de la empresa sobre la libertad académica y la diversidad que estaban en exhibición desde su despido en diciembre del investigador de ética de inteligencia artificial Timnit Gebru.

Google dijo en un comunicado que Mitchell violó el código de conducta y las políticas de seguridad de la empresa al mover archivos electrónicos fuera de la empresa. Mitchell, quien anunció su despido en Twitter, no respondió a una solicitud de comentarios.

La ética de Google en el trabajo de inteligencia artificial ha estado bajo escrutinio desde el despido de Gebru, un científico que ganó prominencia por exponer sesgos en los sistemas de análisis facial. El despido provocó la protesta de miles de trabajadores de Google. Ella y Mitchell habían pedido una mayor diversidad e inclusión entre el personal de investigación de Google y expresaron su preocupación de que la compañía estuviera comenzando a censurar los artículos que criticaban sus productos.

Gebru dijo que Google la despidió después de que cuestionara una orden de no publicar un estudio que decía que la inteligencia artificial que imita el lenguaje podría dañar a las poblaciones marginadas. Mitchell, coautor del artículo, criticó públicamente a la empresa por despedir a Gebru y socavar la credibilidad de su trabajo.

La pareja durante aproximadamente dos años había codirigido el equipo de IA ética, iniciado por Mitchell.

El director de investigación de Google AI, Zoubin Ghahramani, y un abogado de la compañía informaron al equipo de Mitchell de su despido el viernes en una reunión convocada con poca antelación, según una persona familiarizada con el asunto. La persona dijo que se dieron pocas explicaciones por el despido. Google se negó a comentar.

La compañía dijo que el despido de Mitchell siguió las recomendaciones disciplinarias de los investigadores y un comité de revisión. Dijo que sus violaciones “incluyeron la exfiltración de documentos confidenciales sensibles a la empresa y datos privados de otros empleados”. La investigación comenzó el 19 de enero.

Alex Hanna, empleada de Google, dijo en Twitter que la compañía estaba llevando a cabo una “campaña de difamación” contra Mitchell y Gebru, con quienes trabajaba de cerca. Google se negó a comentar sobre los comentarios de Hanna.

Google ha reclutado a los mejores científicos con promesas de libertad de investigación, pero los límites se ponen a prueba a medida que los investigadores escriben cada vez más sobre los efectos negativos de la tecnología y ofrecen perspectivas poco favorecedoras sobre los productos de sus empleadores.

Reuters informó exclusivamente en diciembre que Google introdujo una nueva revisión de “temas sensibles” el año pasado para garantizar que los artículos sobre temas como la industria petrolera y los sistemas de recomendación de contenido no metieran a la compañía en problemas legales o regulatorios. Mitchell expresó públicamente su preocupación de que la política pudiera conducir a la censura.

Google reiteró a los investigadores en un memorando y en una reunión el viernes que estaba trabajando para mejorar la revisión de artículos antes de la publicación. También anunció nuevas políticas el viernes para manejar las salidas sensibles y evaluar a los ejecutivos en función de la diversidad y la inclusión del equipo.

.



Source link