mod herbert

-Rozporządzenie ministra pracy i polityki społecznej z dnia 26.09.1997r. w sprawie ogólnych przepisów BHP.pdf
- Rozporządzenie Ministra Rodziny i Polityki Społecznej z dnia 4 listopada 2021 r. zmieniające rozporządzenie w sprawie ogólnych przepisów bezpieczeństwa i higieny pracy.pdf
-Rozporządzenie z dnia 2 września 1997 r. w sprawie służby BHP.pdf
- Ustawa z dnia 24 sierpnia 1991 r. o ochronie przeciwpożarowej.pdf
-Ustawa z dnia 24 sierpnia 1991 r. o Państwowej Straży Pożarnej.pdf
-Ustawa z dnia 30 października 2002 r. o ubezpieczeniu społecznym z tytułu wypadków przy pracy i chorób zawodowych.pdf

Dockerfile

@@ -1,31 +0,0 @@
-# Użyj oficjalnego obrazu Python jako bazowego
-FROM --platform=linux/amd64 python:3.9-slim
-
-# Ustaw katalog roboczy w kontenerze
-WORKDIR /app
-
-# Zainstaluj git
-RUN apt-get update && apt-get install -y git nano wget curl iputils-ping 
-
-# Skopiuj pliki wymagań (jeśli istnieją) i zainstaluj zależności
-COPY requirements.txt .
-RUN pip install --upgrade pip
-RUN pip install --no-cache-dir -r requirements.txt
-
-# Skopiuj plik requirements.txt do kontenera
-COPY requirements.txt .
-
-# Zainstaluj zależności z pliku requirements.txt
-RUN pip install --no-cache-dir -r requirements.txt
-
-# Zainstaluj Tesseract OCR
-RUN apt-get install -y tesseract-ocr
-
-# Skopiuj kod źródłowy do kontenera
-COPY . .
-COPY entrypoint.sh /entrypoint.sh
-
-RUN chmod +x /entrypoint.sh
-
-# Uruchom aplikację
-ENTRYPOINT ["/entrypoint.sh"]

entrypoint.sh

@@ -1,12 +0,0 @@
-#!/bin/bash
-git config --global credential.helper store
-git config --global user.name ${GIT_USERNAME}
-git config --global user.email ${GIT_EMAIL}
-echo "https://${GIT_USERNAME}:${GIT_TOKEN}@${GIT_HOST}" > ~/.git-credentials
-cd /home
-git clone --single-branch --branch main/finetuning https://repo.pokash.pl/POKASH.PL/ably.do.git
-python /app/${MODELNAME}.py
-
-# Po zakończeniu głównego procesu, przejdź w tryb czuwania
-echo "Główny proces zakończony. Przechodzę w tryb czuwania..."
-tail -f /dev/null

herbert.py

@@ -0,0 +1,119 @@
+import os
+os.environ["TOKENIZERS_PARALLELISM"] = "false"
+
+import torch
+import faiss
+import numpy as np
+from sentence_transformers import SentenceTransformer
+from datasets import Dataset
+from peft import LoraConfig, get_peft_model
+from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer, DataCollatorForLanguageModeling
+
+# 1️⃣ Inicjalizacja modelu do embeddingów
+embed_model = SentenceTransformer("all-MiniLM-L6-v2")
+
+# 2️⃣ Dodanie dokumentów i embeddingów
+def read_documents_from_file(file_path):
+    with open(file_path, 'r', encoding='utf-8') as file:
+        content = file.read()
+        articles = content.split('\n\n')
+        documents = []
+        for article in articles:
+            if article.strip().startswith('Art.'):
+                documents.append(article.strip())
+    return documents
+#documents = [
+#    "Jak założyć firmę w Polsce?", 
+#    "Jak rozliczyć podatek VAT?", 
+#    "Procedura składania reklamacji w e-sklepie.",
+#    "Jakie dokumenty są potrzebne do rejestracji działalności?"
+#]
+file_path = './docs/kodekspracy.txt'  # Zmień na właściwą ścieżkę
+documents = read_documents_from_file(file_path)
+embeddings = embed_model.encode(documents)
+
+# 3️⃣ Inicjalizacja FAISS i dodanie wektorów
+dim = embeddings.shape[1]
+index = faiss.IndexFlatL2(dim)
+index.add(np.array(embeddings, dtype=np.float32))
+
+# 4️⃣ Przygotowanie danych treningowych
+def create_training_data():
+    data = {
+        "text": documents,
+        "embedding": embeddings.tolist()
+    }
+    return Dataset.from_dict(data)
+
+dataset = create_training_data()
+
+# Podział danych na treningowe i ewaluacyjne
+split_dataset = dataset.train_test_split(test_size=0.25)
+train_dataset = split_dataset["train"]
+eval_dataset = split_dataset["test"]
+
+# 5️⃣ Ładowanie modelu Gemma 2B
+device = "cuda" if torch.cuda.is_available() else "cpu"
+model_name = "Lajonbot/vicuna-7b-v1.5-PL-lora_unload"
+model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16).to(device)
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+
+# 6️⃣ Konfiguracja LoRA
+lora_config = LoraConfig(
+    r=8, lora_alpha=32, lora_dropout=0.1, bias="none", task_type="CAUSAL_LM"
+)
+model = get_peft_model(model, lora_config)
+
+# 7️⃣ Tokenizacja danych
+max_length = 384
+
+def tokenize_function(examples):
+    return tokenizer(
+        examples["text"],
+        padding="max_length",
+        truncation=True,
+        max_length=max_length
+    )
+
+tokenized_train = train_dataset.map(tokenize_function, batched=True)
+tokenized_eval = eval_dataset.map(tokenize_function, batched=True)
+
+# 8️⃣ Parametry treningu
+training_args = TrainingArguments(
+    output_dir="./results",
+    eval_strategy="steps",          # Ewaluacja co określoną liczbę kroków
+    eval_steps=500,                 # Ewaluacja co 500 kroków
+    save_strategy="steps",          # Zapis modelu co określoną liczbę kroków
+    save_steps=500,                 # Zapis modelu co 500 kroków
+    learning_rate=1e-5,
+    per_device_train_batch_size=2,
+    per_device_eval_batch_size=2,
+    num_train_epochs=16,
+    weight_decay=0.01,
+    load_best_model_at_end=True,    # Wczytaj najlepszy model na końcu
+    metric_for_best_model="loss",   # Kryterium wyboru najlepszego modelu
+    greater_is_better=False,        # Niższy loss = lepszy model
+)
+
+# 9️⃣ Data Collator
+data_collator = DataCollatorForLanguageModeling(
+    tokenizer=tokenizer,
+    mlm=False
+)
+
+# 🔟 Trening modelu
+trainer = Trainer(
+    model=model,
+    args=training_args,
+    train_dataset=tokenized_train,
+    eval_dataset=tokenized_eval,    # Dodany zestaw ewaluacyjny
+    data_collator=data_collator,
+)
+
+trainer.train()
+
+# 1️⃣1️⃣ Zapis modelu
+model.save_pretrained("./models/herbert")
+tokenizer.save_pretrained("./models/herbert")
+
+print("✅ Model został wytrenowany i zapisany!")

requirements.txt

@@ -4,13 +4,5 @@ datasets>=2.13.1
 Pillow>=9.4.0
 pytesseract>=0.3.10
 python-docx>=0.8.11
-pypdf
+PyPDF2>=3.0.1
-PyPDF2
+huggingface-hub>=0.16.4
-huggingface-hub>=0.16.4
-numpy
-peft
-weaviate-client
-sentence_transformers
-faiss-gpu
-sentencepiece
-sacremoses