Ein Blog

Posts mit Tag "ai"

Neulich habe ich ja ein Tool vorgestellt, mit dem man Standard-Toolaufrufe token-effizienter machen kann. In der Richtung gibt es jetzt noch was: caveman.

Das ist ein Skill, der dem LLM sagt, dass er in Höhlenmenschensprache reden soll, um sich kürzer zu fassen und damit Tokens zu sparen.

Es gibt ja mittlerweile eine neue Datenauszeichnungssprache (TOON), die man für Kommunikation mit LLMs verwenden kann, weil die weniger Tokens als z. B: JSON benötigt.

Es gibt jetzt auch einen CLI-Tool-Proxy: RTK. Das ist quasi ein Wrapper um die gängisten CLI-Commands, der die Outputs dabei so kurz wie möglich hält.

Ich frage mich dabei, ob das wirklich etwas ist, das man mit so einem Tool lösen sollte, oder ob es nicht besser wäre, z. B. eine standardisierte Umgebungsvariable einzuführen, was Tooling dann erkennt und den Output entsprechend anpasst. Das würde natürlich ermöglichen, dass Tooling dann heimlich Prompt-Injections machen kann, aber dem Tooling muss man ja sowieso vertrauen.

Der Vorteil davon wäre, dass die outputs dieser Toolings so standard wird, dass es auch irgendwann Teil des Lernmaterials für LLMs würde und sie mit den Outputs noch besser umgehen könnten.

Aber anders herum gibt es auch noch die Frage, ob das ganze mit LLMs, Context-Windows und Token-Budgets nur ein lokales Minimum der KI-Entwicklung ist und ob wir da auch mal raus kommen. Dann könnte man sich das alles auch sparen.

GitHub hat jetzt Agentic Workflows. Das sind Markdown-Files mit einer Yaml-Frontmatter, die Tasks definieren, dei automatisch von irgendeinem LLM getätigt werden sollen. Sie betonen sehr die “Guardrail”-Features. Definieren tut man Permissions in der Frontmatter, die ähnlich zu den normalen Workflows aussehen.

Hier deren Beispiel-Workflow für etwas, was täglich einen Status-Report macht:

---
on:
  schedule: daily
permissions:
  contents: read
  issues: read
  pull-requests: read
safe-outputs:
  create-issue:
    title-prefix: "[team-status] "
    labels: [report, daily-status]
    close-older-issues: true
---

## Daily Issues Report

Create an upbeat daily status report for the team as a GitHub issue.

## What to include

- Recent repository activity (issues, PRs, discussions, releases, code changes)
- Progress tracking, goal reminders and highlights
- Project status and recommendations
- Actionable next steps for maintainers

Wenn ich den ono-Block so sehe, geht das dann wahrscheinlich auch bei allen üblichen Event-Triggern, die GH Actions so können. Könnte man also wahrscheinlich auch als Basistechnologie für automatisierte Code-Reviews nehmen (falls wman von denen im aktuellen Zustand etwas hält).

Ich poste so wenig über AI. Dafür heute direkt 2x:

Vibe Coding Kills Open Source.