Használati eset: Kód beágyazások
Ezen az oldalon
A keresésen túl
A kód beágyazások nem csupán szemantikus keresésre valók. Haladó alkalmazásokat tesznek lehetővé: tárhelyelemzést, klaszterezést, duplikáció-észlelést és fejlesztői asszisztenseket. Ebben a leckében ezeket a használati eseteket konkrét Python kódokkal vizsgálod meg.
Ez a négy alkalmazási terület közös tulajdonsággal bír: az index geometriáját használják ki lekérdezés helyett. Ha a fájljaid elhelyezkednek a vektortérben, relatív pozícióik történetet mesélnek magáról a projektről: mi hasonlít mire, mi ismétlődik, és mi lóg ki a sorból.
Tárhelyelemzés (Repository Analytics)
Elemezd egy projekt szemantikus szerkezetét, hogy megértsd, hogyan szerveződik a kód. A K-Means algoritmus a vektorok közelsége alapján öt csoportba rendezi a fájlokat anélkül, hogy valaha is megnézné a mappafát. Az eredmény gyakran tanulságos: egy rendezetlen projektnél látni fogod, hogy nagyon különböző könyvtárakból származó fájlok kerülnek ugyanabba a klaszterbe, mert valójában ugyanarról a témáról szólnak.
import numpy as np
from sklearn.cluster import KMeans
from mistralai.client import Mistral
client = Mistral(api_key=api_key)
def analyze_repo(code_files, n_clusters=5):
"""Analyze the semantic structure of a repository."""
# Encode all files
inputs = [f["content"][:3000] for f in code_files]
response = client.embeddings.create(
model="codestral-embed",
inputs=inputs,
)
embeddings = np.array([d.embedding for d in response.data])
# K-Means Clustering
kmeans = KMeans(n_clusters=n_clusters, random_state=42, n_init=10)
labels = kmeans.fit_predict(embeddings)
# Group files by cluster
clusters = {}
for i, label in enumerate(labels):
if label not in clusters:
clusters[label] = []
clusters[label].append(code_files[i]["path"])
return clusters
# Usage
clusters = analyze_repo(code_files, n_clusters=5)
for cluster_id, files in clusters.items():
print(f"\nCluster {cluster_id} ({len(files)} files):")
for f in files[:5]:
print(f" - {f}")
A random_state=42 rögzíti az inicializálást: enélkül két egymást követő futtatás eltérő klaszterszámokat eredményezne, lehetetlenné téve az elemzések időbeli összehasonlítását.
Duplikáció-észlelés
Azonosítsd az ismétlődő vagy közel azonos kódot az állományaidban. Ellentétben egy klasszikus észlelőeszközzel, amely szöveget hasonlít össze, ez a megközelítés az átírt duplikációkat is felfedezi: azt a fájlt, amelyet egyik modulból a másikba másoltak, átneveztek, más változókat kapott, de a logika ugyanaz maradt.
from sklearn.metrics.pairwise import cosine_similarity
def find_duplicates(code_files, embeddings, threshold=0.95):
"""Find pairs of near-identical files."""
sim_matrix = cosine_similarity(embeddings)
duplicates = []
for i in range(len(code_files)):
for j in range(i + 1, len(code_files)):
if sim_matrix[i][j] >= threshold:
duplicates.append({
"file_a": code_files[i]["path"],
"file_b": code_files[j]["path"],
"similarity": float(sim_matrix[i][j]),
})
# Sort by decreasing similarity
duplicates.sort(key=lambda x: x["similarity"], reverse=True)
return duplicates
# Find duplicates
dupes = find_duplicates(code_files, embeddings, threshold=0.92)
print(f"{len(dupes)} potential duplicate pairs found:")
for d in dupes[:10]:
print(f" {d['similarity']:.3f} : {d['file_a']} <-> {d['file_b']}")
A belső ciklus az i + 1 értéknél indul, hogy minden párt csak egyszer hasonlítson össze. Legyél azonban óvatos a költségekkel: a hasonlósági mátrix négyzetes méretű, és néhány ezer fájl felett közelítő indexre kell váltanod a kimerítő számítás helyett. Ha 0,95-ről 0,92-re csökkented a küszöböt, szélesebb hálót vetsz az átírt duplikációkra, néhány manuálisan szűrendő hamis pozitív eredmény árán.
Funkció szerinti klaszterezés
A K-Means megköveteli, hogy előre tudd a csoportok számát, ami egy projekt felfedezésekor ritkán áll fenn. A DBSCAN kezeli ezt a korlátot: maga határozza meg a csoportok számát, és ami még fontosabb, lehetővé teszi, hogy egy fájl egyik csoportba se tartozzon – ez jelenti az alábbi kódban szereplő „Unclassified“ (Nem osztályozott) címkét.
from sklearn.cluster import DBSCAN
def cluster_by_functionality(code_files, embeddings, eps=0.3, min_samples=2):
"""Group code by functionality using DBSCAN."""
# DBSCAN on cosine distances
distance_matrix = 1 - cosine_similarity(embeddings)
clustering = DBSCAN(eps=eps, min_samples=min_samples, metric="precomputed")
labels = clustering.fit_predict(distance_matrix)
# Organize by cluster
groups = {}
for i, label in enumerate(labels):
group_name = f"Group {label}" if label >= 0 else "Unclassified"
if group_name not in groups:
groups[group_name] = []
groups[group_name].append(code_files[i]["path"])
return groups
groups = cluster_by_functionality(code_files, embeddings)
for name, files in groups.items():
print(f"\n{name} ({len(files)} files):")
for f in files[:3]:
print(f" - {f}")
Az 1 - cosine_similarity átalakítás a hasonlóságot távolsággá változtatja, ami a formátum, amit a DBSCAN elvár a metric="precomputed" paraméterrel. Az eps=0.3 paraméter tehát azt jelenti, hogy két fájl akkor szomszédos, ha a koszinusz-hasonlóságuk legalább 0,7.
Kontextuális kódasszisztens
Ez az utolsó példa az előző építőköveket egy valódi, kódra specializálódott RAG-rendszerbe állítja össze: releváns fájlok keresése, kontextus felépítése, majd az LLM meghívása. A 0,5-ös küszöbérték szűrőként működik a folyamat elején – jobb két, a kérdéssel valóban összefüggő fájlt adni a modellnek, mint hármat, amelyek közül az egyik témán kívül esik, és félrevezeti azt.
def code_assistant(question, code_files, embeddings, top_k=3):
"""Find relevant code to answer a question."""
# Encode the question
response = client.embeddings.create(
model="codestral-embed",
inputs=[question],
)
query_emb = np.array(response.data[0].embedding)
# Find the most relevant code
sims = cosine_similarity([query_emb], embeddings)[0]
top_indices = np.argsort(sims)[::-1][:top_k]
context_parts = []
for idx in top_indices:
if sims[idx] > 0.5: # Minimum threshold
context_parts.append(
f"# File: {code_files[idx]['path']}\n"
f"{code_files[idx]['content'][:1500]}"
)
context = "\n\n---\n\n".join(context_parts)
# Build the prompt for the LLM
prompt = f"""Here is relevant code from our project:
{context}
Developer question: {question}
Answer based on the code above."""
# Call the LLM with context
chat_response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": prompt}],
)
return chat_response.choices[0].message.content
# Usage
answer = code_assistant(
"How does authentication work in this project?",
code_files,
embeddings,
)
print(answer)
A fájl elérési útját megjegyzésként illesztjük be minden kódrészlet fölé. Ez nem csupán dekoráció: a modell ezt használja forrásmegjelölésre, és a választ olvasó fejlesztő azonnal tudja, hol ellenőrizze az információt.
Kódminőségi mutatók
Végezetül a beágyazások segítenek felfedezni azt, ami szokatlanul kiemelkedik. A függvény kiszámítja az index centroidját – a projekt „átlagos fájlját“ –, majd méri, mennyire tér el ettől az egyes fájlok. A 2-nél nagyobb z-score olyan fájlt jelez, amely semmi másra nem hasonlít: néha kívülről generált vagy másolt kódrészlet, néha egyszerűen az egyetlen régi stílusban írt fájl. Mindkét esetben jó jelölt a felülvizsgálatra.
def detect_outliers(code_files, embeddings, threshold=2.0):
"""Detect atypical code files."""
# Calculate the centroid (mean vector)
centroid = embeddings.mean(axis=0)
# Distance of each file to the centroid
distances = np.linalg.norm(embeddings - centroid, axis=1)
# Files beyond N standard deviations
mean_dist = distances.mean()
std_dist = distances.std()
outliers = []
for i, dist in enumerate(distances):
z_score = (dist - mean_dist) / std_dist
if z_score > threshold:
outliers.append({
"path": code_files[i]["path"],
"z_score": float(z_score),
})
outliers.sort(key=lambda x: x["z_score"], reverse=True)
return outliers
outliers = detect_outliers(code_files, embeddings)
print(f"{len(outliers)} atypical files:")
for o in outliers:
print(f" z={o['z_score']:.2f} : {o['path']}")
Ne feledd: az „atipikus“ nem azt jelenti, hogy „rossz“. Az eszköz egy listát ad a megtekintendő fájlokról, nem pedig ítéletet hoz: ez kiindulópont az emberi felülvizsgálathoz, sosem egy minőségi irányítópulton megjelenítendő mutató.
Főbb megállapítások
- A kód beágyazások lehetővé teszik a funkciók szerinti automatikus klaszterezést
- A duplikáció-észlelés koszinusz-hasonlósági küszöböt használ (0,92–0,95)
- A kódasszisztens egyesíti a szemantikus keresést az LLM-mel kód-RAG céljából
- Az atipikus fájlok (kilógó értékek) átvizsgálandó kódot jelezhetnek
- A DBSCAN előnyösebb a K-Meansszel szemben, ha a csoportok száma ismeretlen