Créer un compteSe connecter

Recherches récentes

Aucune recherche récente

Options de recherche

Disponible uniquement lorsque vous êtes connecté.
mastouille.fr est l'un des nombreux serveurs Mastodon indépendants que vous pouvez utiliser pour participer au fédiverse.
Mastouille est une instance Mastodon durable, ouverte, et hébergée en France.

Administré par :

Statistiques du serveur :

584
comptes actifs

mastouille.fr: À proposAnnuaire des profilsPolitique de confidentialité

Mastodon: À proposTélécharger l’applicationRaccourcis clavierVoir le code sourcev4.3.4

#lrm

0 message0 participant0 message aujourd’hui
Public *
Ramin Honary
There are rumors going around

Apparently there is some kind of failure mode triggered in #AI when you mention a secret word out of context in your post. I have not seen any elaboration on this. How does it work? In what situations is the failure mode triggered? What does the AI agent do when it fails? Is it an attack on the training data, or do you have to enter it into an AI agent by hand?

  • Gravy

So I am going to assume this is just a nonsensical rumor until someone can explain it to me. But just in case it turns out to be a real problem, I am making this post about it.

Source of the rumor (as far as I can tell) is “AJ Sadauskas” on BlueSky, shared by Brian Krebs here https://infosec.exchange/@briankrebs/114777986932318938 @briankrebs

Infosec ExchangeBrianKrebs (@briankrebs@infosec.exchange)We say "fucking" to keep Google's AI from fscking up search results with AI. And now we can say "gravy" to throw off the AI scrapers? Fucking gravy. Thank you @aj@gts.sadauskas.id.au for cluing me in. https://bsky.app/profile/did:plc:n2okvbdq33c32ekbv6hfzdg2/post/3lsvh7cupqk2z
#tech#LLM#LRM
Public
Wulfy

Critical reasoning vs Cognitive Delegation

Old School Focus:

Building internal cognitive capabilities and managing cognitive load independently.

Cognitive Delegation Focus:

Orchestrating distributed cognitive systems while maintaining quality control over AI-augmented processes.

We can still go for a jog or go hunt our own deer, but for reaching the stars we, the Apes do what Apes do best: Use tools to build on our cognitive abilities. AI is a tool.

3/3

A large table comparing unassisted critical reasoning vs "Cognitive Delegation", leveraging AI for higher order thinking.
#AI#Education#FutureOfEducation
Public *
Jan Wildeboer 😷:krulorange:

On the limits of LLMs (Large Language models) and LRMs (Large Reasoning Models). The TL;DR: "Our findings reveal fundamental limitations in current models: despite sophisticated self-reflection mechanisms, these models fail to develop generalizable reasoning capabilities beyond certain complexity thresholds." Meaning: accuracy collapse.

Interesting paper from Apple. ml-site.cdn-apple.com/papers/t

• We question the current evaluation paradigm of LRMs on established math benchmarks and design a controlled experimental testbed by leveraging algorithmic puzzle environments that enable controllable experimentation with respect to problem complexity. • We show that state-of-the-art LRMs (e.g., o3-mini, DeepSeek-R1, Claude-3.7-Sonnet-Thinking) still fail to develop generalizable problem-solving capabilities, with accuracy ultimately collapsing to zero beyond certain complexities across different environments. • We find that there exists a scaling limit in the LRMs’ reasoning effort with respect to problem complexity, evidenced by the counterintuitive decreasing trend in the thinking tokens after a complexity point. • We question the current evaluation paradigm based on final accuracy and extend our evaluation to intermediate solutions of thinking traces with the help of deterministic puzzle simulators. Our analysis reveals that as problem complexity increases, correct solutions systematically emerge at later positions in thinking compared to incorrect ones, providing quantitative insights into the self-correction mechanisms within LRMs. • We uncover surprising limitations in LRMs’ ability to perform exact computation, including their failure to benefit from explicit algorithms and their inconsistent reasoning across puzzle types.
#AI#LLM#LRM
Public
lully1804

Mise à jour des résultats. Il commence à y avoir des liens transverses, et un faux formulaire de recherche HTML (pour se passer du notebook) doi.org/10.5281/zenodo.7633741 #unimarc #lrm #entites #workinprogress

ZenodoJeu de données Unimarc entités - liste de résultatsSuite à des expérimentations réalisées à partir du jeu de données Unimarc entités du groupe Systèmes et Données de la Transition bibliographique, expérimentations documentées sur le blog https://bibliotheques.wordpress.com et récupérables sur Github (https://github.com/Lully/metadata_notebooks/tree/main/UnimarcLRM et https://github.com/Lully/metadata_notebooks/tree/recherche/UnimarcLRM), voici un lot de pages HTML qui imitent une liste de résultats (fichier short_results_o.html) avec navigation vers les notices détaillées. C'est un état intermédiaire du travail, présenté en journée plénière des groupes de la Transition bibliographique le 24 janvier 2023. Le fichier contient un ensemble de fichiers HTML qui sont les notices détaillées, liées entre elles ; ainsi que des fichiers JSON, qui sont ces mêmes notices en JSON, donnant à voir la manière dont elles sont utilisées par le programme. Il est possible de commencer la navigation en ouvrant le fichier form.html, qui contient des formulaires de recherche. Ces formulaires ne fonctionnent pas mais "miment" le fonctionnement d'une recherche en affichant une liste de résultats. 2 affichages de listes de résultats sont possibles : par oeuvres et par expressions.
ExplorerFlux en direct
À propos