added another contructure

GraySpectrogram.py

@@ -82,78 +82,65 @@ class GraySpectrogram2(datasets.GeneratorBasedBuilder):
         hfh_dataset_info = HfApi().dataset_info(_NAME, revision=_REVISION, timeout=100.0)
 
         # メタデータであるjsonlファイルのURLを取得
-        metadata_urls = DataFilesDict.from_hf_repo(
-            {datasets.Split.TRAIN: ["**"]},
+        # ここの抽出方法変えられないかな？
+        train_metadata_url = DataFilesDict.from_hf_repo(
+            {datasets.Split.TRAIN: ["data/train/**"]},
             dataset_info=hfh_dataset_info,
             allowed_extensions=["jsonl", ".jsonl"],
         )
 
-        # 辞書型にしてURLを格納し直す <- 正しい辞書型にできていたら、必要ないかも
-        metadata_paths = dict()
-        for path in metadata_urls["train"]:
-            dname = dirname(path)
-            folder = basename(Path(dname))
-            # fname = basename(path)
-            metadata_paths[folder] = path
+        test_metadata_url = DataFilesDict.from_hf_repo(
+            {datasets.Split.TEST: ["data/test/**"]},
+            dataset_info=hfh_dataset_info,
+            allowed_extensions=["jsonl", ".jsonl"],
+        )
+        
+        metadata_urls = dict()
+        metadata_urls["train"] = train_metadata_url["train"]
+        metadata_urls["test"] = test_metadata_url["test"]
 
         # 画像データは**.zipのURLをDict型として取得？
-        data_urls = DataFilesDict.from_hf_repo(
-            {datasets.Split.TRAIN: ["**"]},
+        # **.zipのURLをDict型として取得？
+        train_data_url = DataFilesDict.from_hf_repo(
+            {datasets.Split.TRAIN: ["data/train/**"]},
             dataset_info=hfh_dataset_info,
             allowed_extensions=["zip", ".zip"],
         )
 
-        data_url = dict()
-        train_data_url = list()
-        test_data_url = list()
-        for path in data_urls["train"]:
-            dname = dirname(path)
-            folder = basename(Path(dname))
-            # 辞書型
-            if folder=="train":
-                train_data_url.append(path)
-            if folder == "test":
-                test_data_url.append(path)
-
-        data_url["train"] = train_data_url
-        data_url["test"] = test_data_url
-
-        # iteration
-        iter_archive = dict()
-        for split, files in data_url.items():
-            file_name_obj = list()
-            for file_ in files:
-                downloaded_files_path = dl_manager.download(file_)
-                for file_obj in dl_manager.iter_archive(downloaded_files_path):
-                    # print(file_obj)
-                    if file_obj[0].startswith('content/'):
-                        fname = basename(file_obj[0])
-                        file_obj = (fname, file_obj[1])
-                        file_name_obj.append(file_obj)
-                        # print(file_obj)
-                    else:
-                        file_name_obj.append(file_obj)
-                        # print(file_obj)
-            iter_archive[split] = file_name_obj
+        test_data_url = DataFilesDict.from_hf_repo(
+            {datasets.Split.TEST: ["data/test/**"]},
+            dataset_info=hfh_dataset_info,
+            allowed_extensions=["zip", ".zip"]
+        )
+        data_urls = dict()
+        data_urls["train"] = train_data_url["train"]
+        data_urls["test"] = test_data_url["test"]
         
         gs = []
-        for split, files in iter_archive.items():
-            '''
-            split : "train" or "test" or "val"
-            files : zip files
-            '''
-            # リポジトリからダウンロードしてとりあえずキャッシュしたURLリストを取得
-            metadata_path = dl_manager.download_and_extract(metadata_paths[split])
-            # 元のコードではzipファイルの中身を"filepath"としてそのまま_generate_exampleに引き渡している？
-            gs.append(
-                datasets.SplitGenerator(
-                    name = split,
-                    gen_kwargs = {
-                        "images" : iter(iter_archive[split]),
-                        "metadata_path": metadata_path # メタデータパスを渡す
-                    }
+
+        for split, file_list in data_urls.items():
+            metadata_list = metadata_urls[split]
+            for i, file_ in enumerate(file_list):
+                '''
+                split : "train" or "test" or "val"
+                files : zip files
+                '''
+                # print(file_)
+                # print(metadata_list[0])
+                # # リポジトリからダウンロードしてとりあえずキャッシュしたURLリストを取得
+                metadata_path = dl_manager.download_and_extract(metadata_list[i])
+                downloaded_files = dl_manager.download(file_)
+                # # 元のコードではzipファイルの中身を"filepath"としてそのまま_generate_exampleに引き渡している？
+                gs.append(
+                    datasets.SplitGenerator(
+                        name = split,
+                        gen_kwargs = {
+                            # "images" : iter(iter_archive[split]),
+                            "images" : downloaded_files,
+                            "metadata_path": metadata_path # メタデータパスを渡す
+                        }
+                    )
                 )
-            )
         return gs