El error mas frecuente al usar la IA generativa es que las personas solemos considerarlas esclavas. Le dejamos a ellas todo el trabajo, cuando en realidad son asistentes de nosotros.
A continuación, algunas recomendaciones para utilizar la IA de forma confiable:
Las IA son asistentes, pero nosotros tenemos que evaluar y volver orgánicos los datos.
La IA no es un buscador de información, pero si puede ayudarnos a encontrar autores, temas, ensayos de interés para facilitar nuestra búsqueda.
Debemos evitar el uso de la IA cuando implique un riesgo: por ejemplo, cuando Ie pedimos hechos. Nosotros podemos pedirle ayuda, pero los hechos debemos comprobarlos nosotros. Recordar lo siguiente que advierte el doctor Jules White:
Las IA alucinan: A veces, la IA generativa da información que parece correcta pero no lo es puede generar información que parece real, pero en realidad es ficticia o incorrecta. Esto puede llevar a errores si se confía ciegamente en los resultados sin verificar su veracidad.
Dependencia de la formulación de la pregunta: La forma en que se formula una pregunta o se da una instrucción a la IA generativa puede influir en los resultados que se obtienen. Si la pregunta no esta bien formulada ó es ambigua, la IA puede generar respuestas incorrectas o irrelevantes.
Sesgo y falta de ética: Los modelos de IA generativa pueden verse afectados por sesgos inherentes en los datos de entrenamiento. Esto puede Ilevar a la generación de contenido sesgado o discriminatorio. Además, es importante utilizar la IA generativa de manera ética y responsable, evitando la generación de contenido dañino o engañoso.
Falta de control: A veces, la IA generativa puede producir resultados impredecibles o incoherentes. Esto puede dificultar el control sobre los resultados y limitar su utilidad en ciertos casos.
Si Ia IA no nos brinda la ayuda que queramos o esta es insuficiente o limitada, entonces no hay problema: sigamos adelante. No siempre nos dará las
respuestas que queremos.
Lo que produce la IA no debe usarse como un producto final, sino como una plataforma que nos ayudo a realizar el trabajo.
El doctor Jules White de la Universidad de Vanderbilt, recomienda que utilicemos la IA como una red de seguridad (verificar qué el trabajo esté bien hecho, retroalimentar previo a la entrega de clases), ayudarnos para que la IA haga las tareas tediosas (siendo nuestro rol hacer el prompt y supervisar el trabajo), inspirar una mejor resolución de problemas y creatividad (la IA como una plataforma para ayudarnos a encontrar soluciones, a impulsar nuestra creatividad como docentes y permitir que las grandes ideas escalen mas rápido (Por ejemplo, proponiendo un prompt para ayudar a retroalimentar a estudiantes o que éstos se ayuden a aprender).
Recomendaciones en el uso de la IA Generativa en la educación médica, nutrición, ciencia básica y práctica clínica
Annie Hartley, Hua Xu, Mark Gerstein y Rohan Khera, expertos del departamento de Informática biomédica y ciencia de datos de la Universidad de Yale (2024)
Traducción y resumen: Marco Carlos Avalos Rosado