Algoritmos de IA necesitan ensayos de drogas al estilo de la FDA


Imagínese un par de estudiantes de bioquímica con cafeína a altas horas de la noche en la cocina de su dormitorio cocinando un nuevo medicamento que resulta notablemente eficaz para calmar los resfriados, pero sin querer causa cambios permanentes en el comportamiento. Quienes lo ingieren se politizan radicalmente y gritan descontroladamente en conversaciones casuales. Aún así, el brebaje vende a miles de millones de personas. Esto suena absurdo, porque la FDA nunca permitiría que tal medicamento llegue al mercado.

OPINIÓN CON CABLE

ACERCA DE

Olaf J. Groth es CEO fundador de Cambrian Labs y profesor de Hult Business School. Mark J. Nitzberg es director ejecutivo del Centro de IA compatible con humanos (CHAI) en UC Berkeley. Groth y Nitzberg son coautores de Código de Salomón: la humanidad en un mundo de máquinas de pensar (2018) Stuart J. Russell es profesor de informática en UC Berkeley, director de CHAI y autor de Compatible con humanos: IA y el problema del control (2019).

Sin embargo, esta locura está sucediendo en todas partes en línea. Todos los días, vemos flujos de contenido seleccionados a medida mediante algoritmos de software simples, algunos creados en dormitorios, basados ​​en una técnica llamada aprendizaje de refuerzo adaptativo. Con cada clic, los algoritmos aprenden a personalizar el feed a los gustos de sus usuarios, obteniendo así beneficios para sus propietarios. Pero los diseñadores cometieron un simple error: asumieron que los gustos humanos son fijos. En realidad, los algoritmos aplicados a maleable los humanos pueden tener efectos secundarios drásticamente diferentes y perniciosos a escala global. Ellos modificar nuestros gustos para hacernos aún más predecibles, acercarnos a los extremos y, en última instancia, erosionar la cortesía y la confianza en la sociedad. Es hora de que dejemos de permitir esto alegremente y creemos el equivalente digital de los ensayos con medicamentos.

Los sistemas inteligentes a escala necesitan regulación porque son un multiplicador de fuerza sin precedentes para la promoción de los intereses de un individuo o un grupo. Por primera vez en la historia, una sola persona puede personalizar un mensaje por miles de millones y compartirlo con ellos en cuestión de días. Un ingeniero de software puede crear un ejército de bots impulsados ​​por IA, cada uno simulando ser una persona diferente, promoviendo contenido en nombre de intereses políticos o comerciales. A diferencia de la propaganda de difusión o el marketing directo, este enfoque también utiliza las cualidades de refuerzo del algoritmo para aprender qué funciona mejor para persuadir y empujar a cada individuo.

La manipulación de las preferencias de los usuarios y el uso de ejércitos bot para aprovechar el engaño generalizado ha alterado la cohesión social y los procesos democráticos. Para proteger la autonomía cognitiva de los individuos y la salud política de la sociedad en general, necesitamos hacer que la función y la aplicación de los algoritmos sean transparentes, y la FDA proporciona un modelo útil.

La Administración de Drogas y Alimentos de los Estados Unidos requiere pruebas controladas en animales para establecer la seguridad, y luego más pruebas en poblaciones pequeñas para establecer la eficacia. Solo entonces una empresa puede ofrecer un nuevo medicamento a las masas. El software, por el contrario, generalmente está sujeto solo a "pruebas unitarias", para asegurar que las nuevas líneas de código funcionen como se espera, y "pruebas de integración", para asegurar que las actualizaciones no degraden el rendimiento del sistema. Esto es como verificar que un medicamento no tenga contaminantes sin probar los efectos de sus ingredientes activos.

Sigue leyendo

Lo último en inteligencia artificial, desde aprendizaje automático hasta visión artificial y más

Por supuesto, no podemos reunir un panel de revisión tradicional al estilo de la FDA para eliminar el contenido deliberadamente falso en cada artículo en línea. Pero ya tenemos herramientas para que tanto las plataformas como los usuarios detecten falsedades y descarten fuentes dudosas, incluidos sistemas de reputación, evaluadores externos, instituciones notariales, trazabilidad y, como es el caso en California, una regulación que requiere los bots se identifican a sí mismos como tales y hace que sea ilegal desplegar bots que engañan deliberadamente a otros en un intento de alentar una compra o influir en un voto.

4 razones por las que debes ser tu propio cliente


Hay muchas razones por las cuales las startups fallan. Puede ser una falta de financiación o falta de talento. O, a veces, una startup simplemente no puede ejecutarse en los productos o servicios que intentan construir. Pero la razón número uno? La mayoría estaría de acuerdo en que es una falta de comprensión sobre el cliente real que queremos comprar nuestro producto.

Cualquiera que intente iniciar un negocio inherentemente sabe que es un requisito fundamental comprender a los clientes objetivo, sus necesidades y sus motivaciones. Pero a veces los empresarios estamos tan cegados por la brillantez de nuestras propias ideas que creemos que "si las construimos, vendrán". Otras veces, consideramos pagar por una investigación de mercado costosa o que consume mucho tiempo, pero finalmente la pasamos. Y así, tomamos atajos cuando se trata de entender al cliente.

Recientemente, un grupo de estudiantes de secundaria me recordó que hay una manera indiscutible de conocer realmente a su cliente. Se tu cliente.

Cinco grandes ideas con un hilo conductor

Hace unas semanas, un grupo de 15 estudiantes de The Rivers School en Weston, Massachusetts, llegó al área de la Bahía de San Francisco para reunirse con algunos líderes de Silicon Valley que habían asistido a la escuela. Dado el importante papel que jugó la escuela al prepararme para mi futuro, me alegró ser el anfitrión.

Entonces, reuní a algunos de nuestros expertos en mi empresa de desarrollo de aplicaciones ArcTouch y organizamos un hackathon de dos días. Desafiamos a los equipos de estudiantes a definir una idea de aplicación, construir el caso de negocios para ella y crear prototipos interactivos para demostrar algunas de las funcionalidades. El evento culminó con una presentación al estilo Shark Tank, que llamamos ArcTank, donde los equipos presentaron sus ideas como si estuvieran lanzando inversores.

Las presentaciones fueron notablemente pulidas, considerando el corto período de tiempo que se les dio a los estudiantes. Sus ideas de aplicaciones incluyen:

  • Una aplicación de administración de tareas: para ayudar a los estudiantes a administrar toda su carga de trabajo en todas las clases y ofrecer a los maestros y padres visibilidad sobre su progreso.
  • Una aplicación para pasar lista en el aula: para que los estudiantes se auto-registren en la clase usando sus teléfonos, lo que les permite a los maestros pasar más tiempo enseñando y menos tiempo asistiendo.
  • Aplicación Uber para tutores: para entregar un tutor cuando un estudiante más lo necesita, incluso a la 1 a.m. del día anterior a su final de matemáticas.
  • Una tienda de aplicaciones para estudiantes: para centralizar todas las aplicaciones aprobadas por la escuela y hacer que sea más fácil para maestros y estudiantes encontrarlas.
  • Aplicación para compartir zapatillas: para que los adolescentes tengan acceso a los nuevos pisotones. Piensa en Turo para las zapatillas de deporte.

Vi un hilo común en todas las presentaciones: los estudiantes estaban construyendo productos para ellos mismos. Eran sus propios clientes.

Nota del editor: ¿Necesita una solución de desarrollo de aplicaciones móviles para su negocio? Complete el siguiente cuestionario para que nuestros socios proveedores lo contacten con información gratuita.

Cuatro maneras de ser su propio cliente pueden ayudar a que su negocio tenga éxito

Hay muchas historias excelentes sobre nuevas empresas que comienzan cuando los fundadores resuelven los problemas que estaban experimentando. Mientras asistía a una conferencia en París en 2008, Travis Kalanick y Garrett Camp no pudieron conseguir un taxi, lo que supuestamente sirvió de inspiración para Uber. Y cuando Nick Swinmurn no pudo encontrar las botas de desierto Airwalk que quería en el centro comercial local, tuvo la idea de una tienda de zapatos en línea y comenzó Zappos.

Y como fundador de una compañía de desarrollo de aplicaciones que ha ayudado a construir más de 400 productos en 10 años, he visto de primera mano que los más exitosos son aquellos que tienen una comprensión clara del cliente. Muchas veces, la inspiración para esos productos nació de la experiencia personal. Incluso ArcTouch se inspiró originalmente en la introducción de Apple de la App Store, ya que mi socio comercial Adam Fingerman y yo estábamos intrínsecamente motivados para crear excelentes aplicaciones para iPhone que disfrutaríamos personalmente.

Aquí hay cuatro formas en que ser su propio cliente puede ayudar a los empresarios:

  1. Ahorrará en investigación de mercado.. Una forma de entender a un cliente objetivo es a través de la investigación de mercado, como entrevistas individuales, grupos focales y encuestas cuantitativas. Estos pueden ser inmensamente valiosos, pero también inmensamente costosos. Y si bien siempre se puede obtener una gran cantidad de información, no puede reemplazar saber, inherentemente, lo que su cliente necesita porque usted es su propio cliente.
  1. Serás un mejor vendedor. Cualquier fundador de startups le dirá que necesita grandes habilidades de ventas para que su negocio tenga alguna posibilidad de éxito. Debe vender su idea a inversores, miembros del equipo (para adquirir talento), socios comerciales y eventualmente clientes. Y para hacer eso, necesitas una confianza y autenticidad inquebrantables. Construir un producto que sabe que comprará le dará confianza que no puede adquirir de ninguna otra manera. Y tu historia de fundador será auténtica porque es realmente tu historia.
  1. Serás más resistente. Necesitará pasión para acompañarlo con confianza, para vender su idea de negocio a diferentes audiencias. Pero también necesitará resistencia para alimentar su perseverancia. En cualquier startup, encontrará desafíos y obstáculos, y la resistencia lo ayudará a superar cualquier resistencia. Naturalmente, su capacidad de recuperación será más fuerte si su idea se basa en sus propias experiencias personales auténticas.
  1. Estás más involucrado en el éxito futuro de tu negocio. Creo firmemente que los fundadores de startups necesitan tanto capital financiero como capital para construir un negocio exitoso. Es decir, necesitan aportar algo de dinero pero también invertir mucho tiempo y energía para resolver el problema que están tratando de resolver. Si su idea de negocio proviene de sus propias experiencias, ya ha invertido parte de esa equidad. Es preexistente. Eso no significa que pueda alcanzar el éxito comercial, pero sí significa que está muy por delante de alguien que simplemente está comenzando con una oportunidad de mercado percibida.

Steve Jobs construyó el iPod para sí mismo

Dada la historia de nuestra empresa en dispositivos móviles, Steve Jobs aparece a menudo. Era legendario por su enfoque láser en la construcción de lo que personalmente creía que eran excelentes productos.

Mi ejemplo favorito de un producto que Jobs construyó para sí mismo fue el iPod y su tienda de música digital, iTunes. Como detalla Walter Isaacson en la biografía de Steve Jobs, Jobs era un gran aficionado a la música. Estaba frustrado por la dificultad de crear y administrar colecciones de música digital, ya que causó reproductores de MP3 de primera generación mal diseñados, software inestable y tecnología DRM complicada. Entonces, construyó el iPod y iTunes, una combinación que muchos atribuyen al trampolín de Apple en el titán tecnológico que es hoy.

Jobs se basó en sus propios instintos, que se basaron en sus propias experiencias. Era, en muchos sentidos, su propio cliente. Y de la misma manera, la próxima generación de emprendedores, representada por los estudiantes de secundaria en The Rivers School, imaginó productos que mejorarían y facilitarían sus propias vidas.

El fundador de Karma, Ruben Harris, quiere mostrar a todos cómo entrar en la tecnología



<div _ngcontent-c15 = "" innerhtml = "

El podcast Breaking Into Startups de Ruben Harris es popular entre la multitud de Silicon Valley. La línea de apertura del programa, con la voz del creador y presentador Harris, dice "Al crecer, nos dicen que para tener éxito debes ser un banquero, un médico o un abogado. Pero eso es lo que los guardianes quieren que pienses … "

Las palabras reflejan el tono disruptivo del podcast, que se ha convertido en algo que deben escuchar los buscadores de trabajo que buscan ingresar a la industria tecnológica. & Nbsp; En el programa, los invitados de Harris promocionan tener carreras exitosas en Silicon Valley a pesar de ser de entornos diferentes al trabajador tecnológico promedio. Los huéspedes incluyen una madre soltera del centro de la ciudad, un Abandono escolar negro de 16 años y un ex organizador laboral. & nbsp; Una entrevista destaca a su hermano David, quien se convirtió en ingeniero de software en el Área de la Bahía después de tocar música y escribir en Atlanta, Georgia. & Nbsp;

Por ahora, la historia del codificador ambicioso que viaja a Silicon Valley con un boleto de ida, y sueña con sacar provecho de la segunda fiebre del oro de California, es más común, pero Harris cree que cualquiera es capaz. Y como fundador y CEO de Career Karma, una plataforma que conecta a las personas con la codificación de campamentos de entrenamiento y compañeros en el campo de la tecnología, Harris está apostando a que su compañía puede mostrar a todos cómo hacerlo.

Para el banquero de inversiones con sede en Atlanta convertido en cofundador de startups, Career Karma despegó detrás del intenso interés que pululaba su improbable salto profesional a la tecnología. & Nbsp; Harris fue despedido de su primer trabajo en banca de inversión después de dos meses. La tecnología solo apareció en el radar de Harris después de que un capitalista de riesgo lo retuiteó en Twitter y le sugirió que se mudara a Silicon Valley. & Nbsp; & nbsp;

Su participación en Twitter condujo a mensajes directos y relaciones en línea con otros capitalistas de riesgo. & Nbsp; Como resultado, Harris pudo aterrizar en California con su boleto de ida y un puñado de reuniones con ejecutivos influyentes. Aparentemente imposible para alguien sin experiencia en codificación, le llevó unas breves 3 semanas conseguir un trabajo. & Nbsp;

Harris escribió en detalle sobre la experiencia de una publicación de Medium que se volvió viral hace unos años, que sirvió como argumento para el podcast y el precursor de Career Karma. Él dijo: “Después de que la historia despegó, personas de todo el mundo comenzaron a aparecer preguntando qué hacer a continuación. Después de que lanzamos la historia, lanzamos el podcast Breaking Into Startups … para elevar las historias de otras personas como yo que irrumpieron porque nos damos cuenta de que la mayoría de estos trabajos están fuera de línea y se derivan, y para obtener estos trabajos. requiere conjuntos de habilidades y muchos conjuntos de habilidades se enseñan en lugares fuera de la universidad ".

Las personas que descargan la aplicación Career Karma se combinan con el campo de entrenamiento adecuado que se ajusta a sus objetivos y estilo de vida. La aplicación también permite a los usuarios ver cuántas otras personas se están inscribiendo con éxito en los campos de entrenamiento y rastrear sus propias aplicaciones en tiempo real. También hay un componente de red: los usuarios pueden conectarse con mentores y personas en diversas etapas de la transición a la industria.

Los campos de entrenamiento de codificación son el pan y la mantequilla de las ofertas de Career Karma, pero la compañía planea rápidamente incluir otros tipos de capacitación. Con 18,000 usuarios y cerca de 100 personas descargando la aplicación todos los días, la compañía apunta a llegar a los millones de trabajadores que necesitarán ser reentrenados debido a la automatización y la revolución tecnológica. & Nbsp; Además, al mostrarle a un gran número de personas de entornos tecnológicos no tradicionales cómo conseguir un trabajo en una startup, muchos ven el potencial de la empresa para ayudar a resolver la crisis de diversidad tecnológica. & Nbsp;

“Nuestro objetivo es ayudar a mil millones de personas en 10 años o menos, y la razón por la que somos una empresa social es porque tenemos una solución escalable para posiblemente el mayor problema económico de nuestro tiempo, que es preparar a los trabajadores para la 4ta Revolución Industrial, "Dijo Harris.

El mes pasado, la compañía, que se anuncia a sí misma como un mercado que une a las personas con la capacitación laboral, recaudó alrededor de $ 2 millones de los inversores. Carrera Karma también ha atraído la atención de corporaciones y organizaciones sin fines de lucro que trabajan en el desarrollo de la fuerza laboral. Cuando sea el momento adecuado, Harris cree que Carema Karma estará en posición de atraer a muchos socios y globalizarse.

">

El podcast Breaking Into Startups de Ruben Harris es popular entre la multitud de Silicon Valley. La línea de apertura del programa, con la voz del creador y presentador Harris, dice "Al crecer, nos dicen que para tener éxito debes ser un banquero, un médico o un abogado. Pero eso es lo que los guardianes quieren que pienses … "

Las palabras reflejan el tono disruptivo del podcast, que se ha convertido en una necesidad para los buscadores de trabajo que buscan ingresar a la industria tecnológica. En el programa, los invitados de Harris promocionan tener carreras exitosas en Silicon Valley a pesar de ser de entornos diferentes al trabajador tecnológico promedio. Los invitados incluyen a una madre soltera del centro de la ciudad, un abandono de la escuela secundaria negra de 16 años y un ex organizador laboral. Una entrevista destaca a su hermano David, que se convirtió en ingeniero de software en el Área de la Bahía después de tocar música y escribir en Atlanta, Georgia.

Por ahora, la historia del codificador ambicioso que viaja a Silicon Valley con un boleto de ida, y sueña con sacar provecho de la segunda fiebre del oro de California, es más común, pero Harris cree que cualquiera es capaz. Y como fundador y CEO de Career Karma, una plataforma que conecta a las personas con la codificación de campamentos de entrenamiento y compañeros en el campo de la tecnología, Harris está apostando a que su compañía puede mostrar a todos cómo hacerlo.

Para el banquero de inversiones con sede en Atlanta convertido en cofundador de startups, Career Karma despegó detrás del intenso interés que pululaba su improbable salto profesional a la tecnología. Harris fue despedido de su primer trabajo en banca de inversión después de dos meses. La tecnología solo apareció en el radar de Harris después de que un capitalista de riesgo lo retuiteó en Twitter y le sugirió que se mudara a Silicon Valley.

Su participación en Twitter condujo a mensajes directos y relaciones en línea con otros capitalistas de riesgo. Como resultado, Harris pudo aterrizar en California con su boleto de ida y un puñado de reuniones con ejecutivos influyentes. Aparentemente imposible para alguien sin experiencia en codificación, le llevó unas breves 3 semanas conseguir un trabajo.

Harris escribió en detalle sobre la experiencia de una publicación de Medium que se volvió viral hace unos años, que sirvió como argumento para el podcast y el precursor de Career Karma. Él dijo: “Después de que la historia despegó, personas de todo el mundo comenzaron a aparecer preguntando qué hacer a continuación. Después de que lanzamos la historia, lanzamos el podcast Breaking Into Startups … para elevar las historias de otras personas como yo que irrumpieron porque nos damos cuenta de que la mayoría de estos trabajos están fuera de línea y se derivan, y para obtener estos trabajos. requiere conjuntos de habilidades y muchos conjuntos de habilidades se enseñan en lugares fuera de la universidad ".

Las personas que descargan la aplicación Career Karma se combinan con el campo de entrenamiento adecuado que se ajusta a sus objetivos y estilo de vida. La aplicación también permite a los usuarios ver cuántas otras personas se están inscribiendo con éxito en los campos de entrenamiento y rastrear sus propias aplicaciones en tiempo real. También hay un componente de red: los usuarios pueden conectarse con mentores y personas en diversas etapas de la transición a la industria.

Los campos de entrenamiento de codificación son el pan y la mantequilla de las ofertas de Career Karma, pero la compañía planea rápidamente incluir otros tipos de capacitación. Con 18,000 usuarios y alrededor de 100 personas descargando la aplicación todos los días, la compañía apunta a llegar a los millones de trabajadores que necesitarán ser reentrenados debido a la automatización y la revolución tecnológica. Además, al mostrarle a una gran cantidad de personas de entornos de tecnología no tradicional cómo conseguir un trabajo en una startup, muchos ven el potencial de la empresa para ayudar a resolver la crisis de diversidad tecnológica.

“Nuestro objetivo es ayudar a mil millones de personas en 10 años o menos, y la razón por la que somos una empresa social es porque tenemos una solución escalable para posiblemente el mayor problema económico de nuestro tiempo, que es preparar a los trabajadores para la 4ta Revolución Industrial, "Dijo Harris.

El mes pasado, la compañía, que se anuncia a sí misma como un mercado que une a las personas con la capacitación laboral, recaudó alrededor de $ 2 millones de los inversores. Carrera Karma también ha atraído la atención de corporaciones y organizaciones sin fines de lucro que trabajan en el desarrollo de la fuerza laboral. Cuando sea el momento adecuado, Harris cree que Carema Karma estará en posición de atraer a muchos socios y globalizarse.