Upload asr.py

asr.py

@@ -1,64 +1,88 @@
 import torch
 import csv
-from datasets import load_dataset
 from transformers import pipeline
 import os
+import librosa
 from itertools import islice
 
+OVER_SIZE_LIMIT = 200_000_000
+
+csv.field_size_limit(OVER_SIZE_LIMIT)
 os.environ["CUDA_VISIBLE_DEVICES"] = "0"
 
-# 音声認識のための generate_kwargs を定義
 generate_kwargs = {
-    "language": "Japanese",  # 日本語の音声認識
-    "no_repeat_ngram_size": 0,  # 繰り返しのn-gramサイズ
-    "repetition_penalty": 1.0,  # 繰り返しペナルティ
+    "language": "Japanese",
+    "no_repeat_ngram_size": 0,
+    "repetition_penalty": 1.0,
 }
 
-# "anime-whisper" モデルを使った ASR パイプラインの初期化
 pipe = pipeline(
-    "automatic-speech-recognition",  # 自動音声認識
-    model="litagin/anime-whisper",  # 使用するモデル
-    device="cuda",  # CUDA（GPU）を使って処理
-    torch_dtype=torch.float16,  # 精度をfloat16に設定（メモリ効率向上）
-    chunk_length_s=30.0,  # 30秒単位で音声を分割
-    batch_size=64,  # バッチサイズ
+    "automatic-speech-recognition",
+    model="litagin/anime-whisper",
+    device="cuda",
+    torch_dtype=torch.float16,
+    chunk_length_s=30.0,
+    batch_size=64,
 )
 
-# データセットをロード
-dataset = load_dataset("litagin/Galgame_Speech_ASR_16kHz", streaming=True)
-
 # CSVファイルの準備
-csv_file = "speech_recognition_results.csv"
+csv_file = r"C:\Users\user\Pictures\speech_recognition_results.csv"
+
+# transcript.csvからデータを読み込む
+transcripts = {}
+with open(r"C:\Users\user\Pictures\transcript.csv", mode="r", encoding="utf-8") as file:
+    reader = csv.DictReader(file)
+    for row in reader:
+        transcripts[row["filename"]] = row["transcript"]
+
+audio_dir = r"C:\Users\user\Pictures\dataset_converted"
+audio_files = os.listdir(audio_dir)
 
-# 既存の行数を確認
-start_index = 0
+# CSV から既に処理されたファイル名を取得
+processed_files = set()
 if os.path.exists(csv_file):
     with open(csv_file, mode="r", encoding="utf-8") as file:
-        reader = csv.reader(file)
-        next(reader, None)  # ヘッダーをスキップ
-        start_index = sum(1 for _ in reader)  # 行数をカウント
+        reader = csv.DictReader(file)
+        for row in reader:
+            processed_files.add(row["Filename"])
 
-# CSVファイルを開く（追記モード）
+# 処理を開始
+batch_size = 256  # バッチサイズ
 with open(csv_file, mode="a", newline="", encoding="utf-8") as file:
     writer = csv.writer(file)
 
-    # ヘッダーが存在しない場合のみ書き込む
-    if start_index == 0:
-        writer.writerow(["True", "ASR"])
+    # ヘッダーがない場合は書き込む
+    if not processed_files:
+        writer.writerow(["Filename", "True", "ASR"])
+
+    # 未処理ファイルをフィルタリング
+    unprocessed_files = [
+        f for f in audio_files if f in transcripts and f not in processed_files
+    ]
+
+    # バッチ処理
+    for i in range(0, len(unprocessed_files), batch_size):
+        batch_files = unprocessed_files[i : i + batch_size]
+        audio_paths = [os.path.join(audio_dir, f) for f in batch_files]
+
+        # 音声ファイルを読み込み
+        audios = []
+        for audio_path in audio_paths:
+            y, sr = librosa.load(audio_path, sr=16000)
+            audios.append(y)
 
-    # トレーニングデータを一括でスキップして処理を再開
-    for index, example in islice(enumerate(dataset["train"]), start_index, None):
-        # ASR パイプラインを使って音声データを文字起こし
-        result = pipe(example["ogg"]["array"], generate_kwargs=generate_kwargs)
+        # ASR パイプラインを使ってバッチ処理
+        results = pipe(audios, generate_kwargs=generate_kwargs)
 
-        # 認識結果（文字起こし）を表示
-        true_text = example["txt"]
-        asr_result = result["text"]
+        # CSVに結果を保存
+        for audio_file, result in zip(batch_files, results):
+            asr_result = result["text"]
+            true_text = transcripts[audio_file]
+            writer.writerow([audio_file, true_text, asr_result])
 
-        # 結果をCSVファイルに書き込み
-        writer.writerow([true_text, asr_result])
-        print("True:", true_text)
-        print("ASR :", asr_result)
-        print()
+            print("Filename:", audio_file)
+            print("True:", true_text)
+            print("ASR :", asr_result)
+            print()
 
 print(f"結果は {csv_file} に保存されました。")