terça-feira, junho 25, 2024
O lado negro do CHAT GPT - riscos a ter em conta
The Dark Side of ChatGPT: 6 Generative AI Risks to WatchBy Rhea Kelly
06/02/23
Gartner has identified six critical areas where the use of large language models such as ChatGPT can present legal or compliance risks that enterprise organizations must be aware of — or face potentially dire consequences. Organizations should consider what guardrails to put in place in order to ensure responsible use of these tools, the research firm advised.
"The output generated by ChatGPT and other large language model (LLM) tools are prone to several risks," said Ron Friedmann, senior director analyst in Gartner's Legal & Compliance Practice, in a statement. "Legal and compliance leaders should assess if these issues present a material risk to their enterprise and what controls are needed …. Failure to do so could expose enterprises to legal, reputational and financial consequences."
Risks to consider include:
quinta-feira, junho 06, 2024
Mais de metade dos estudantes usam IA para escrever os seus trabalhos (dados do Turnitin)
Artificial Intelligence
Turnitin: More than Half of Students Continue to Use AI to Write Papers
Since its launch in April 2023, Turnitin's AI writing detection tool has reviewed over 200 million papers, with data showing that more than half of students continue to use AI to write their papers.
As of late March 2024, the company said, out of the over 200 million papers reviewed, over 22 million were at least 20% AI-written, and over 6 million were at least 80% AI-written.
The company said this indicates that "educators and institutions should look at a variety of factors — or puzzle pieces — beyond detection." It suggests that teachers and institutions should have open discussions with students about what is acceptable use of AI in the classroom, as well as review academic policies and revise essay prompts.
O que devem as universidades fazer em relação à utilização da inteligência artificial no ensino e na aprendizagem?
O que devem as universidades fazer em relação à utilização da inteligência artificial no ensino e na aprendizagem?
Autor: Tony Bates
Ler na fonte | (Traduzido do inglês, com supressões)
O que é diferente nos modelos de linguagem generativos
Os modelos de linguagem generativos, como o ChatGPT, representam um grande avanço em relação às aplicações anteriores de IA na educação, pois podem transformar os resultados de uma pesquisa geral na Internet num relatório abrangente com uma linguagem tão fluente que parece ter sido escrita por um humano. No entanto, é importante compreender como o ChatGPT e outros modelos similares realizam isso.
O processo básico consiste em calcular a probabilidade da próxima palavra numa frase, com base na pergunta de entrada. Para calcular essa probabilidade, o ChatGPT pesquisa toda a Internet para identificar as combinações e sequências de palavras mais comuns sobre um determinado tópico.
Pontos fortes e fracos do ChatGPT
Com uma base de dados suficientemente grande de frases completas, ao pesquisar tudo o que possivelmente está disponível na Internet, o resultado é surpreendentemente preciso em resumir toda a escrita passada sobre um tópico. Note que o processo é puramente mecanicista – não há “compreensão” ou processamento conceptual envolvido.
Subscrever:
Mensagens (Atom)