Datasets:

---

blindsubmissions

/

GH_text2code

like 4

[ "def", "__init__", "(", "self", ",", "decls", ")", ":", "object", ".", "__init__", "(", "self", ")", "self", ".", "__dict__", "[", "'declarations'", "]", "=", "decls" ]

[ 64, 4 ]

[ 69, 45 ]

[ "def", "__len__", "(", "self", ")", ":", "return", "len", "(", "self", ".", "declarations", ")" ]

[ 74, 4 ]

[ 76, 37 ]

[ "def", "__getitem__", "(", "self", ",", "index", ")", ":", "return", "self", ".", "declarations", "[", "index", "]" ]

[ 78, 4 ]

[ 80, 39 ]

[ "def", "__setattr__", "(", "self", ",", "name", ",", "value", ")", ":", "self", ".", "__ensure_attribute", "(", "name", ")", "for", "d", "in", "self", ".", "declarations", ":", "setattr", "(", "d", ",", "name", ",", "value", ")" ]

[ 93, 4 ]

[ 100, 35 ]

[ "def", "__getattr__", "(", "self", ",", "name", ")", ":", "return", "call_redirector_t", "(", "name", ",", "self", ".", "declarations", ")" ]

[ 102, 4 ]

[ 105, 57 ]

[ "def", "comment_out", "(", "self", ",", "filename", ",", "remove_header", ")", ":", "ff", "=", "open", "(", "self", ".", "filePathBaseDirs", "[", "filename", "]", "+", "\"/\"", "+", "filename", ")", "outfile", "=", "open", "(", "self", ".", "filePathBaseDirs", "[", "filename", "]", "+", "\"/\"", "+", "filename", "+", "\"_cleaned\"", ",", "\"w\"", ")", "for", "line", "in", "ff", ":", "if", "line", ".", "find", "(", "remove_header", ")", "!=", "-", "1", ":", "print", "(", "\" Removing {0} from {1}\"", ".", "format", "(", "line", ",", "self", ".", "filePathBaseDirs", "[", "filename", "]", "+", "\"/\"", "+", "filename", ")", ")", "else", ":", "outfile", ".", "write", "(", "line", ")", "ff", ".", "close", "(", ")", "outfile", ".", "close", "(", ")", "os", ".", "rename", "(", "self", ".", "filePathBaseDirs", "[", "filename", "]", "+", "\"/\"", "+", "filename", "+", "\"_cleaned\"", ",", "self", ".", "filePathBaseDirs", "[", "filename", "]", "+", "\"/\"", "+", "filename", ")" ]

[ 66, 4 ]

[ 77, 117 ]

[ "def", "test_test_yaml_config_usage_stats_custom_type", "(", "mock_emit", ",", "empty_data_context_stats_enabled", ")", ":", "data_context", ":", "DataContext", "=", "empty_data_context_stats_enabled", "_", "=", "data_context", ".", "test_yaml_config", "(", "yaml_config", "=", "\"\"\"\nmodule_name: tests.data_context.fixtures.plugins\nclass_name: MyCustomExpectationsStore\nstore_backend:\n module_name: great_expectations.data_context.store.store_backend\n class_name: InMemoryStoreBackend\n\"\"\"", ")", "assert", "mock_emit", ".", "call_count", "==", "1", "# Substitute anonymized name & class since it changes for each run", "anonymized_name", "=", "mock_emit", ".", "call_args_list", "[", "0", "]", "[", "0", "]", "[", "0", "]", "[", "\"event_payload\"", "]", "[", "\"anonymized_name\"", "]", "anonymized_class", "=", "mock_emit", ".", "call_args_list", "[", "0", "]", "[", "0", "]", "[", "0", "]", "[", "\"event_payload\"", "]", "[", "\"anonymized_class\"", "]", "assert", "mock_emit", ".", "call_args_list", "==", "[", "mock", ".", "call", "(", "{", "\"event\"", ":", "\"data_context.test_yaml_config\"", ",", "\"event_payload\"", ":", "{", "\"anonymized_name\"", ":", "anonymized_name", ",", "\"parent_class\"", ":", "\"ExpectationsStore\"", ",", "\"anonymized_class\"", ":", "anonymized_class", ",", "\"anonymized_store_backend\"", ":", "{", "\"parent_class\"", ":", "\"InMemoryStoreBackend\"", "}", ",", "}", ",", "\"success\"", ":", "True", ",", "}", ")", ",", "]" ]

[ 64, 0 ]

[ 105, 5 ]

[ "def", "test_test_yaml_config_usage_stats_class_name_not_provided", "(", "mock_emit", ",", "empty_data_context_stats_enabled", ")", ":", "with", "pytest", ".", "raises", "(", "Exception", ")", ":", "# noinspection PyUnusedLocal", "my_expectation_store", "=", "empty_data_context_stats_enabled", ".", "test_yaml_config", "(", "yaml_config", "=", "\"\"\"\nmodule_name: great_expectations.data_context.store.expectations_store\n\n \"\"\"", ")", "assert", "mock_emit", ".", "call_count", "==", "1", "assert", "mock_emit", ".", "call_args_list", "==", "[", "mock", ".", "call", "(", "{", "\"event\"", ":", "\"data_context.test_yaml_config\"", ",", "\"event_payload\"", ":", "{", "\"diagnostic_info\"", ":", "[", "\"__class_name_not_provided__\"", "]", "}", ",", "\"success\"", ":", "False", ",", "}", ")", ",", "]" ]

[ 111, 0 ]

[ 135, 5 ]

[ "def", "test_test_yaml_config_usage_stats_custom_config_class_name_not_provided", "(", "mock_emit", ",", "empty_data_context_stats_enabled", ")", ":", "data_context", ":", "DataContext", "=", "empty_data_context_stats_enabled", "with", "pytest", ".", "raises", "(", "Exception", ")", ":", "_", "=", "data_context", ".", "test_yaml_config", "(", "yaml_config", "=", "\"\"\"\nmodule_name: tests.data_context.fixtures.plugins.my_custom_expectations_store\nstore_backend:\n module_name: great_expectations.data_context.store.store_backend\n class_name: InMemoryStoreBackend\n\"\"\"", ")", "assert", "mock_emit", ".", "call_count", "==", "1", "assert", "mock_emit", ".", "call_args_list", "==", "[", "mock", ".", "call", "(", "{", "\"event\"", ":", "\"data_context.test_yaml_config\"", ",", "\"event_payload\"", ":", "{", "\"diagnostic_info\"", ":", "[", "\"__class_name_not_provided__\"", "]", ",", "}", ",", "\"success\"", ":", "False", ",", "}", ")", ",", "]" ]

[ 141, 0 ]

[ 170, 5 ]

[ "def", "test_test_yaml_config_usage_stats_custom_type_not_ge_subclass", "(", "mock_emit", ",", "empty_data_context_stats_enabled", ")", ":", "data_context", ":", "DataContext", "=", "empty_data_context_stats_enabled", "_", "=", "data_context", ".", "test_yaml_config", "(", "yaml_config", "=", "\"\"\"\nmodule_name: tests.data_context.fixtures.plugins\nclass_name: MyCustomNonCoreGeClass\n\"\"\"", ")", "assert", "mock_emit", ".", "call_count", "==", "1", "assert", "mock_emit", ".", "call_args_list", "==", "[", "mock", ".", "call", "(", "{", "\"event\"", ":", "\"data_context.test_yaml_config\"", ",", "\"event_payload\"", ":", "{", "\"diagnostic_info\"", ":", "[", "\"__custom_subclass_not_core_ge__\"", "]", "}", ",", "\"success\"", ":", "True", ",", "}", ")", ",", "]" ]

[ 176, 0 ]

[ 202, 5 ]

[ "def", "test_test_yaml_config_usage_stats_simple_sqlalchemy_datasource_subclass", "(", "mock_emit", ",", "sa", ",", "test_backends", ",", "empty_data_context_stats_enabled", ")", ":", "if", "\"postgresql\"", "not", "in", "test_backends", ":", "pytest", ".", "skip", "(", "\"test_test_yaml_config_usage_stats_simple_sqlalchemy_datasource_subclass requires postgresql\"", ")", "data_context", ":", "DataContext", "=", "empty_data_context_stats_enabled", "_", "=", "data_context", ".", "test_yaml_config", "(", "yaml_config", "=", "\"\"\"\nmodule_name: tests.data_context.fixtures.plugins.my_custom_simple_sqlalchemy_datasource_class\nclass_name: MyCustomSimpleSqlalchemyDatasource\nname: some_name\nintrospection:\n whole_table:\n data_asset_name_suffix: __whole_table\ncredentials:\n drivername: postgresql\n host: localhost\n port: '5432'\n username: postgres\n password: ''\n database: postgres\n\"\"\"", ")", "assert", "mock_emit", ".", "call_count", "==", "1", "# Substitute anonymized name & class since it changes for each run", "anonymized_name", "=", "mock_emit", ".", "call_args_list", "[", "0", "]", "[", "0", "]", "[", "0", "]", "[", "\"event_payload\"", "]", "[", "\"anonymized_name\"", "]", "anonymized_class", "=", "mock_emit", ".", "call_args_list", "[", "0", "]", "[", "0", "]", "[", "0", "]", "[", "\"event_payload\"", "]", "[", "\"anonymized_class\"", "]", "anonymized_data_connector_name", "=", "mock_emit", ".", "call_args_list", "[", "0", "]", "[", "0", "]", "[", "0", "]", "[", "\"event_payload\"", "]", "[", "\"anonymized_data_connectors\"", "]", "[", "0", "]", "[", "\"anonymized_name\"", "]", "assert", "mock_emit", ".", "call_args_list", "==", "[", "mock", ".", "call", "(", "{", "\"event\"", ":", "\"data_context.test_yaml_config\"", ",", "\"event_payload\"", ":", "{", "\"anonymized_name\"", ":", "anonymized_name", ",", "\"parent_class\"", ":", "\"SimpleSqlalchemyDatasource\"", ",", "\"anonymized_class\"", ":", "anonymized_class", ",", "\"anonymized_execution_engine\"", ":", "{", "\"parent_class\"", ":", "\"SqlAlchemyExecutionEngine\"", "}", ",", "\"anonymized_data_connectors\"", ":", "[", "{", "\"anonymized_name\"", ":", "anonymized_data_connector_name", ",", "\"parent_class\"", ":", "\"InferredAssetSqlDataConnector\"", ",", "}", "]", ",", "}", ",", "\"success\"", ":", "True", ",", "}", ")", ",", "]" ]

[ 208, 0 ]

[ 272, 5 ]

[ "def", "__init__", "(", "self", ",", "name", ":", "str", ",", "datasource_name", ":", "str", ",", "base_directory", ":", "str", ",", "execution_engine", ":", "Optional", "[", "ExecutionEngine", "]", "=", "None", ",", "default_regex", ":", "Optional", "[", "dict", "]", "=", "None", ",", "glob_directive", ":", "Optional", "[", "str", "]", "=", "\"*\"", ",", "sorters", ":", "Optional", "[", "list", "]", "=", "None", ",", "batch_spec_passthrough", ":", "Optional", "[", "dict", "]", "=", "None", ",", ")", ":", "logger", ".", "debug", "(", "f'Constructing InferredAssetFilesystemDataConnector \"{name}\".'", ")", "super", "(", ")", ".", "__init__", "(", "name", "=", "name", ",", "datasource_name", "=", "datasource_name", ",", "execution_engine", "=", "execution_engine", ",", "default_regex", "=", "default_regex", ",", "sorters", "=", "sorters", ",", "batch_spec_passthrough", "=", "batch_spec_passthrough", ",", ")", "self", ".", "_base_directory", "=", "base_directory", "self", ".", "_glob_directive", "=", "glob_directive" ]

[ 29, 4 ]

[ 65, 45 ]

[ "def", "_get_data_reference_list", "(", "self", ",", "data_asset_name", ":", "Optional", "[", "str", "]", "=", "None", ")", "->", "List", "[", "str", "]", ":", "path_list", ":", "List", "[", "str", "]", "=", "get_filesystem_one_level_directory_glob_path_list", "(", "base_directory_path", "=", "self", ".", "base_directory", ",", "glob_directive", "=", "self", ".", "_glob_directive", ")", "return", "sorted", "(", "path_list", ")" ]

[ 67, 4 ]

[ 78, 32 ]

[ "def", "base_directory", "(", "self", ")", ":", "return", "normalize_directory_path", "(", "dir_path", "=", "self", ".", "_base_directory", ",", "root_directory_path", "=", "self", ".", "data_context_root_directory", ",", ")" ]

[ 86, 4 ]

[ 94, 9 ]

[ "def", "get", "(", "self", ",", "request", ",", "format", "=", "None", ")", ":", "an_apiview", "=", "[", "'Uses HTTP methods as function (get, post, patch, put, delete)'", ",", "'It is similar to a traditional Django view'", ",", "'Gives you the most control over your logic'", ",", "'Is mapped manually to URLs'", "]", "return", "Response", "(", "{", "'message'", ":", "'Hello!'", ",", "'an_apiview'", ":", "an_apiview", "}", ")" ]

[ 24, 4 ]

[ 34, 72 ]

[ "def", "post", "(", "self", ",", "request", ")", ":", "serializer", "=", "serializers", ".", "HelloSerializer", "(", "data", "=", "request", ".", "data", ")", "if", "serializer", ".", "is_valid", "(", ")", ":", "name", "=", "serializer", ".", "data", ".", "get", "(", "'name'", ")", "message", "=", "'Hello {0}'", ".", "format", "(", "name", ")", "return", "Response", "(", "{", "'message'", ":", "message", "}", ")", "else", ":", "return", "Response", "(", "serializer", ".", "errors", ",", "status", "=", "status", ".", "HTTP_400_BAD_REQUEST", ")" ]

[ 36, 4 ]

[ 47, 70 ]

[ "def", "put", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'method'", ":", "'PUT'", "}", ")" ]

[ 49, 4 ]

[ 52, 42 ]

[ "def", "patch", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'method'", ":", "'PATCH'", "}", ")" ]

[ 54, 4 ]

[ 57, 44 ]

[ "def", "delete", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'method'", ":", "'DELETE'", "}", ")" ]

[ 59, 4 ]

[ 62, 45 ]

[ "def", "list", "(", "self", ",", "request", ")", ":", "a_viewset", "=", "[", "'Uses actions (list, create, retrieve, update, partial_update)'", ",", "'Automatically maps to URLs using Routers'", ",", "'Provides more functionality with less code.'", "]", "return", "Response", "(", "{", "'message'", ":", "'Hello!'", ",", "'a_viewset'", ":", "a_viewset", "}", ")" ]

[ 70, 4 ]

[ 79, 70 ]

[ "def", "create", "(", "self", ",", "request", ")", ":", "serializer", "=", "serializers", ".", "HelloSerializer", "(", "data", "=", "request", ".", "data", ")", "if", "serializer", ".", "is_valid", "(", ")", ":", "name", "=", "serializer", ".", "data", ".", "get", "(", "'name'", ")", "message", "=", "'Hello {0}'", ".", "format", "(", "name", ")", "return", "Response", "(", "{", "'message'", ":", "message", "}", ")", "else", ":", "return", "Response", "(", "serializer", ".", "errors", ",", "status", "=", "status", ".", "HTTP_400_BAD_REQUEST", ")" ]

[ 81, 4 ]

[ 92, 70 ]

[ "def", "retrieve", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'http_method'", ":", "'GET'", "}", ")" ]

[ 94, 4 ]

[ 97, 47 ]

[ "def", "update", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'http_method'", ":", "'PUT'", "}", ")" ]

[ 99, 4 ]

[ 102, 47 ]

[ "def", "partial_update", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'http_method'", ":", "'PATCH'", "}", ")" ]

[ 104, 4 ]

[ 107, 49 ]

[ "def", "destroy", "(", "self", ",", "request", ",", "pk", "=", "None", ")", ":", "return", "Response", "(", "{", "'http_method'", ":", "'DELETE'", "}", ")" ]

[ 109, 4 ]

[ 112, 50 ]

[ "def", "perform_create", "(", "self", ",", "serializer", ")", ":", "serializer", ".", "save", "(", "user_profile", "=", "self", ".", "request", ".", "user", ")" ]

[ 142, 4 ]

[ 145, 55 ]

[ "def", "__init__", "(", "self", ",", "document_store", ":", "ElasticsearchDocumentStore", ",", "custom_query", ":", "str", "=", "None", ")", ":", "self", ".", "document_store", ":", "ElasticsearchDocumentStore", "=", "document_store", "self", ".", "custom_query", "=", "custom_query" ]

[ 17, 4 ]

[ 54, 40 ]

[ "def", "retrieve", "(", "self", ",", "query", ":", "str", ",", "filters", ":", "dict", "=", "None", ",", "top_k", ":", "int", "=", "10", ",", "index", ":", "str", "=", "None", ")", "->", "List", "[", "Document", "]", ":", "if", "index", "is", "None", ":", "index", "=", "self", ".", "document_store", ".", "index", "documents", "=", "self", ".", "document_store", ".", "query", "(", "query", ",", "filters", ",", "top_k", ",", "self", ".", "custom_query", ",", "index", ")", "return", "documents" ]

[ 56, 4 ]

[ 70, 24 ]

[ "def", "retrieve", "(", "self", ",", "query", ":", "str", ",", "filters", ":", "dict", "=", "None", ",", "top_k", ":", "int", "=", "10", ",", "index", ":", "str", "=", "None", ")", "->", "List", "[", "Document", "]", ":", "if", "index", "is", "None", ":", "index", "=", "self", ".", "document_store", ".", "index", "documents", "=", "self", ".", "document_store", ".", "query", "(", "query", "=", "None", ",", "filters", "=", "filters", ",", "top_k", "=", "top_k", ",", "custom_query", "=", "self", ".", "custom_query", ",", "index", "=", "index", ")", "return", "documents" ]

[ 79, 4 ]

[ 93, 24 ]

[ "def", "_get_all_paragraphs", "(", "self", ")", "->", "List", "[", "Paragraph", "]", ":", "documents", "=", "self", ".", "document_store", ".", "get_all_documents", "(", ")", "paragraphs", "=", "[", "]", "p_id", "=", "0", "for", "doc", "in", "documents", ":", "for", "p", "in", "doc", ".", "text", ".", "split", "(", "\"\\n\\n\"", ")", ":", "# TODO: this assumes paragraphs are separated by \"\\n\\n\". Can be switched to paragraph tokenizer.", "if", "not", "p", ".", "strip", "(", ")", ":", "# skip empty paragraphs", "continue", "paragraphs", ".", "append", "(", "Paragraph", "(", "document_id", "=", "doc", ".", "id", ",", "paragraph_id", "=", "p_id", ",", "text", "=", "(", "p", ",", ")", ",", "meta", "=", "doc", ".", "meta", ")", ")", "p_id", "+=", "1", "logger", ".", "info", "(", "f\"Found {len(paragraphs)} candidate paragraphs from {len(documents)} docs in DB\"", ")", "return", "paragraphs" ]

[ 122, 4 ]

[ 139, 25 ]

[ "def", "retrieve", "(", "self", ",", "query", ":", "str", ",", "filters", ":", "dict", "=", "None", ",", "top_k", ":", "int", "=", "10", ",", "index", ":", "str", "=", "None", ")", "->", "List", "[", "Document", "]", ":", "if", "self", ".", "df", "is", "None", ":", "raise", "Exception", "(", "\"fit() needs to called before retrieve()\"", ")", "if", "filters", ":", "raise", "NotImplementedError", "(", "\"Filters are not implemented in TfidfRetriever.\"", ")", "if", "index", ":", "raise", "NotImplementedError", "(", "\"Switching index is not supported in TfidfRetriever.\"", ")", "# get scores", "indices_and_scores", "=", "self", ".", "_calc_scores", "(", "query", ")", "# rank paragraphs", "df_sliced", "=", "self", ".", "df", ".", "loc", "[", "indices_and_scores", ".", "keys", "(", ")", "]", "df_sliced", "=", "df_sliced", "[", ":", "top_k", "]", "logger", ".", "debug", "(", "f\"Identified {df_sliced.shape[0]} candidates via retriever:\\n {df_sliced.to_string(col_space=10, index=False)}\"", ")", "# get actual content for the top candidates", "paragraphs", "=", "list", "(", "df_sliced", ".", "text", ".", "values", ")", "meta_data", "=", "[", "{", "\"document_id\"", ":", "row", "[", "\"document_id\"", "]", ",", "\"paragraph_id\"", ":", "row", "[", "\"paragraph_id\"", "]", ",", "\"meta\"", ":", "row", ".", "get", "(", "\"meta\"", ",", "{", "}", ")", "}", "for", "idx", ",", "row", "in", "df_sliced", ".", "iterrows", "(", ")", "]", "documents", "=", "[", "]", "for", "para", ",", "meta", "in", "zip", "(", "paragraphs", ",", "meta_data", ")", ":", "documents", ".", "append", "(", "Document", "(", "id", "=", "meta", "[", "\"document_id\"", "]", ",", "text", "=", "para", ",", "meta", "=", "meta", ".", "get", "(", "\"meta\"", ",", "{", "}", ")", ")", ")", "return", "documents" ]

[ 151, 4 ]

[ 194, 24 ]

[ "def", "fit", "(", "self", ")", ":", "if", "not", "self", ".", "paragraphs", "or", "len", "(", "self", ".", "paragraphs", ")", "==", "0", ":", "self", ".", "paragraphs", "=", "self", ".", "_get_all_paragraphs", "(", ")", "if", "not", "self", ".", "paragraphs", "or", "len", "(", "self", ".", "paragraphs", ")", "==", "0", ":", "logger", ".", "warning", "(", "\"Fit method called with empty document store\"", ")", "return", "self", ".", "df", "=", "pd", ".", "DataFrame", ".", "from_dict", "(", "self", ".", "paragraphs", ")", "self", ".", "df", "[", "\"text\"", "]", "=", "self", ".", "df", "[", "\"text\"", "]", ".", "apply", "(", "lambda", "x", ":", "\" \"", ".", "join", "(", "x", ")", ")", "self", ".", "tfidf_matrix", "=", "self", ".", "vectorizer", ".", "fit_transform", "(", "self", ".", "df", "[", "\"text\"", "]", ")" ]

[ 196, 4 ]

[ 208, 74 ]

[ "def", "synthetic_data", "(", "mode", "=", "1", ",", "n", "=", "1000", ",", "p", "=", "5", ",", "sigma", "=", "1.0", ",", "adj", "=", "0.", ")", ":", "catalog", "=", "{", "1", ":", "simulate_nuisance_and_easy_treatment", ",", "2", ":", "simulate_randomized_trial", ",", "3", ":", "simulate_easy_propensity_difficult_baseline", ",", "4", ":", "simulate_unrelated_treatment_control", ",", "5", ":", "simulate_hidden_confounder", "}", "assert", "mode", "in", "catalog", ",", "'Invalid mode {}. Should be one of {}'", ".", "format", "(", "mode", ",", "set", "(", "catalog", ")", ")", "return", "catalog", "[", "mode", "]", "(", "n", ",", "p", ",", "sigma", ",", "adj", ")" ]

[ 8, 0 ]

[ 42, 42 ]

[ "def", "simulate_nuisance_and_easy_treatment", "(", "n", "=", "1000", ",", "p", "=", "5", ",", "sigma", "=", "1.0", ",", "adj", "=", "0.", ")", ":", "X", "=", "np", ".", "random", ".", "uniform", "(", "size", "=", "n", "*", "p", ")", ".", "reshape", "(", "(", "n", ",", "-", "1", ")", ")", "b", "=", "np", ".", "sin", "(", "np", ".", "pi", "*", "X", "[", ":", ",", "0", "]", "*", "X", "[", ":", ",", "1", "]", ")", "+", "2", "*", "(", "X", "[", ":", ",", "2", "]", "-", "0.5", ")", "**", "2", "+", "X", "[", ":", ",", "3", "]", "+", "0.5", "*", "X", "[", ":", ",", "4", "]", "eta", "=", "0.1", "e", "=", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "eta", ",", "n", ")", ",", "np", ".", "minimum", "(", "np", ".", "sin", "(", "np", ".", "pi", "*", "X", "[", ":", ",", "0", "]", "*", "X", "[", ":", ",", "1", "]", ")", ",", "np", ".", "repeat", "(", "1", "-", "eta", ",", "n", ")", ")", ")", "e", "=", "expit", "(", "logit", "(", "e", ")", "-", "adj", ")", "tau", "=", "(", "X", "[", ":", ",", "0", "]", "+", "X", "[", ":", ",", "1", "]", ")", "/", "2", "w", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "e", ",", "size", "=", "n", ")", "y", "=", "b", "+", "(", "w", "-", "0.5", ")", "*", "tau", "+", "sigma", "*", "np", ".", "random", ".", "normal", "(", "size", "=", "n", ")", "return", "y", ",", "X", ",", "w", ",", "tau", ",", "b", ",", "e" ]

[ 45, 0 ]

[ 76, 29 ]

[ "def", "simulate_randomized_trial", "(", "n", "=", "1000", ",", "p", "=", "5", ",", "sigma", "=", "1.0", ",", "adj", "=", "0.", ")", ":", "X", "=", "np", ".", "random", ".", "normal", "(", "size", "=", "n", "*", "p", ")", ".", "reshape", "(", "(", "n", ",", "-", "1", ")", ")", "b", "=", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "0.0", ",", "n", ")", ",", "X", "[", ":", ",", "0", "]", "+", "X", "[", ":", ",", "1", "]", ",", "X", "[", ":", ",", "2", "]", ")", "+", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "0.0", ",", "n", ")", ",", "X", "[", ":", ",", "3", "]", "+", "X", "[", ":", ",", "4", "]", ")", "e", "=", "np", ".", "repeat", "(", "0.5", ",", "n", ")", "tau", "=", "X", "[", ":", ",", "0", "]", "+", "np", ".", "log1p", "(", "np", ".", "exp", "(", "X", "[", ":", ",", "1", "]", ")", ")", "w", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "e", ",", "size", "=", "n", ")", "y", "=", "b", "+", "(", "w", "-", "0.5", ")", "*", "tau", "+", "sigma", "*", "np", ".", "random", ".", "normal", "(", "size", "=", "n", ")", "return", "y", ",", "X", ",", "w", ",", "tau", ",", "b", ",", "e" ]

[ 79, 0 ]

[ 109, 29 ]

[ "def", "simulate_easy_propensity_difficult_baseline", "(", "n", "=", "1000", ",", "p", "=", "5", ",", "sigma", "=", "1.0", ",", "adj", "=", "0.", ")", ":", "X", "=", "np", ".", "random", ".", "normal", "(", "size", "=", "n", "*", "p", ")", ".", "reshape", "(", "(", "n", ",", "-", "1", ")", ")", "b", "=", "2", "*", "np", ".", "log1p", "(", "np", ".", "exp", "(", "X", "[", ":", ",", "0", "]", "+", "X", "[", ":", ",", "1", "]", "+", "X", "[", ":", ",", "2", "]", ")", ")", "e", "=", "1", "/", "(", "1", "+", "np", ".", "exp", "(", "X", "[", ":", ",", "1", "]", "+", "X", "[", ":", ",", "2", "]", ")", ")", "tau", "=", "np", ".", "repeat", "(", "1.0", ",", "n", ")", "w", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "e", ",", "size", "=", "n", ")", "y", "=", "b", "+", "(", "w", "-", "0.5", ")", "*", "tau", "+", "sigma", "*", "np", ".", "random", ".", "normal", "(", "size", "=", "n", ")", "return", "y", ",", "X", ",", "w", ",", "tau", ",", "b", ",", "e" ]

[ 112, 0 ]

[ 141, 29 ]

[ "def", "simulate_unrelated_treatment_control", "(", "n", "=", "1000", ",", "p", "=", "5", ",", "sigma", "=", "1.0", ",", "adj", "=", "0.", ")", ":", "X", "=", "np", ".", "random", ".", "normal", "(", "size", "=", "n", "*", "p", ")", ".", "reshape", "(", "(", "n", ",", "-", "1", ")", ")", "b", "=", "(", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "0.0", ",", "n", ")", ",", "X", "[", ":", ",", "0", "]", "+", "X", "[", ":", ",", "1", "]", "+", "X", "[", ":", ",", "2", "]", ")", "+", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "0.0", ",", "n", ")", ",", "X", "[", ":", ",", "3", "]", "+", "X", "[", ":", ",", "4", "]", ")", ")", "/", "2", "e", "=", "1", "/", "(", "1", "+", "np", ".", "exp", "(", "-", "X", "[", ":", ",", "0", "]", ")", "+", "np", ".", "exp", "(", "-", "X", "[", ":", ",", "1", "]", ")", ")", "e", "=", "expit", "(", "logit", "(", "e", ")", "-", "adj", ")", "tau", "=", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "0.0", ",", "n", ")", ",", "X", "[", ":", ",", "0", "]", "+", "X", "[", ":", ",", "1", "]", "+", "X", "[", ":", ",", "2", "]", ")", "-", "np", ".", "maximum", "(", "np", ".", "repeat", "(", "0.0", ",", "n", ")", ",", "X", "[", ":", ",", "3", "]", "+", "X", "[", ":", ",", "4", "]", ")", "w", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "e", ",", "size", "=", "n", ")", "y", "=", "b", "+", "(", "w", "-", "0.5", ")", "*", "tau", "+", "sigma", "*", "np", ".", "random", ".", "normal", "(", "size", "=", "n", ")", "return", "y", ",", "X", ",", "w", ",", "tau", ",", "b", ",", "e" ]

[ 144, 0 ]

[ 175, 29 ]

[ "def", "simulate_hidden_confounder", "(", "n", "=", "10000", ",", "p", "=", "5", ",", "sigma", "=", "1.0", ",", "adj", "=", "0.", ")", ":", "z", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "0.5", ",", "size", "=", "n", ")", ".", "astype", "(", "np", ".", "double", ")", "X", "=", "np", ".", "random", ".", "normal", "(", "z", ",", "5", "*", "z", "+", "3", "*", "(", "1", "-", "z", ")", ",", "size", "=", "(", "p", ",", "n", ")", ")", ".", "T", "e", "=", "0.75", "*", "z", "+", "0.25", "*", "(", "1", "-", "z", ")", "w", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "e", ")", "b", "=", "expit", "(", "3", "*", "(", "z", "+", "2", "*", "(", "2", "*", "w", "-", "2", ")", ")", ")", "y", "=", "np", ".", "random", ".", "binomial", "(", "1", ",", "b", ")", "# Compute true ite tau for evaluation (via Monte Carlo approximation).", "t0_t1", "=", "np", ".", "array", "(", "[", "[", "0.", "]", ",", "[", "1.", "]", "]", ")", "y_t0", ",", "y_t1", "=", "expit", "(", "3", "*", "(", "z", "+", "2", "*", "(", "2", "*", "t0_t1", "-", "2", ")", ")", ")", "tau", "=", "y_t1", "-", "y_t0", "return", "y", ",", "X", ",", "w", ",", "tau", ",", "b", ",", "e" ]

[ 178, 0 ]

[ 209, 29 ]

[ "def", "test_cli_datasource_list", "(", "caplog", ",", "empty_data_context", ",", "filesystem_csv_2", ")", ":", "project_root_dir", "=", "empty_data_context", ".", "root_directory", "context", "=", "DataContext", "(", "project_root_dir", ")", "runner", "=", "CliRunner", "(", "mix_stderr", "=", "False", ")", "result", "=", "runner", ".", "invoke", "(", "cli", ",", "[", "\"datasource\"", ",", "\"list\"", ",", "\"-d\"", ",", "project_root_dir", "]", ",", "catch_exceptions", "=", "False", ")", "stdout", "=", "result", ".", "stdout", ".", "strip", "(", ")", "assert", "\"No Datasources found\"", "in", "stdout", "assert", "context", ".", "list_datasources", "(", ")", "==", "[", "]", "base_directory", "=", "str", "(", "filesystem_csv_2", ")", "context", ".", "add_datasource", "(", "\"wow_a_datasource\"", ",", "module_name", "=", "\"great_expectations.datasource\"", ",", "class_name", "=", "\"PandasDatasource\"", ",", "batch_kwargs_generators", "=", "{", "\"subdir_reader\"", ":", "{", "\"class_name\"", ":", "\"SubdirReaderBatchKwargsGenerator\"", ",", "\"base_directory\"", ":", "base_directory", ",", "}", "}", ",", ")", "datasources", "=", "context", ".", "list_datasources", "(", ")", "assert", "datasources", "==", "[", "{", "\"name\"", ":", "\"wow_a_datasource\"", ",", "\"class_name\"", ":", "\"PandasDatasource\"", ",", "\"data_asset_type\"", ":", "{", "\"class_name\"", ":", "\"PandasDataset\"", ",", "\"module_name\"", ":", "\"great_expectations.dataset\"", ",", "}", ",", "\"batch_kwargs_generators\"", ":", "{", "\"subdir_reader\"", ":", "{", "\"base_directory\"", ":", "base_directory", ",", "\"class_name\"", ":", "\"SubdirReaderBatchKwargsGenerator\"", ",", "}", "}", ",", "\"module_name\"", ":", "\"great_expectations.datasource\"", ",", "}", "]", "runner", "=", "CliRunner", "(", "mix_stderr", "=", "False", ")", "result", "=", "runner", ".", "invoke", "(", "cli", ",", "[", "\"datasource\"", ",", "\"list\"", ",", "\"-d\"", ",", "project_root_dir", "]", ",", "catch_exceptions", "=", "False", ")", "expected_output", "=", "\"\"\"\n1 Datasource found:\u001b[0m\n\u001b[0m\n - \u001b[36mname:\u001b[0m wow_a_datasource\u001b[0m\n \u001b[36mmodule_name:\u001b[0m great_expectations.datasource\u001b[0m\n \u001b[36mclass_name:\u001b[0m PandasDatasource\u001b[0m\n \u001b[36mbatch_kwargs_generators:\u001b[0m\u001b[0m\n \u001b[36msubdir_reader:\u001b[0m\u001b[0m\n \u001b[36mclass_name:\u001b[0m SubdirReaderBatchKwargsGenerator\u001b[0m\n \u001b[36mbase_directory:\u001b[0m {}\u001b[0m\n \u001b[36mdata_asset_type:\u001b[0m\u001b[0m\n \u001b[36mmodule_name:\u001b[0m great_expectations.dataset\u001b[0m\n \u001b[36mclass_name:\u001b[0m PandasDataset\u001b[0m\"\"\"", ".", "format", "(", "base_directory", ")", ".", "strip", "(", ")", "stdout", "=", "result", ".", "stdout", ".", "strip", "(", ")", "assert", "stdout", "==", "expected_output", "assert_no_logging_messages_or_tracebacks", "(", "caplog", ",", "result", ")" ]

[ 14, 0 ]

[ 83, 60 ]

[ "def", "form_valid", "(", "self", ",", "form", ",", "*", "*", "kwargs", ")", ":", "form", ".", "instance", ".", "utilizador", "=", "self", ".", "request", ".", "user", "form", ".", "instance", ".", "realizado", "=", "True", "return", "super", "(", ")", ".", "form_valid", "(", "form", ")" ]

[ 326, 4 ]

[ 333, 39 ]

[ "def", "_run_on_dask", "(", "jobs", ",", "verbose", ")", ":", "try", ":", "import", "dask", "except", "ImportError", "as", "ie", ":", "ie", ".", "msg", "+=", "(", "'\\n\\nIt seems like `dask` is not installed.\\n'", "'Please install `dask` and `distributed` using:\\n'", "'\\n pip install dask distributed'", ")", "raise", "scorer", "=", "dask", ".", "delayed", "(", "_run_job", ")", "persisted", "=", "dask", ".", "persist", "(", "*", "[", "scorer", "(", "args", ")", "for", "args", "in", "jobs", "]", ")", "if", "verbose", ":", "try", ":", "progress", "(", "persisted", ")", "except", "ValueError", ":", "pass", "return", "dask", ".", "compute", "(", "*", "persisted", ")" ]

[ 216, 0 ]

[ 236, 35 ]

[ "def", "benchmark", "(", "pipelines", "=", "None", ",", "datasets", "=", "None", ",", "hyperparameters", "=", "None", ",", "metrics", "=", "METRICS", ",", "rank", "=", "'f1'", ",", "test_split", "=", "False", ",", "detrend", "=", "False", ",", "iterations", "=", "1", ",", "workers", "=", "1", ",", "show_progress", "=", "False", ",", "cache_dir", "=", "None", ",", "output_path", "=", "None", ",", "pipeline_dir", "=", "None", ")", ":", "pipelines", "=", "pipelines", "or", "VERIFIED_PIPELINES", "datasets", "=", "datasets", "or", "BENCHMARK_DATA", "run_id", "=", "os", ".", "getenv", "(", "'RUN_ID'", ")", "or", "str", "(", "uuid", ".", "uuid4", "(", ")", ")", "[", ":", "10", "]", "if", "isinstance", "(", "pipelines", ",", "list", ")", ":", "pipelines", "=", "{", "pipeline", ":", "pipeline", "for", "pipeline", "in", "pipelines", "}", "if", "isinstance", "(", "datasets", ",", "list", ")", ":", "datasets", "=", "{", "'dataset'", ":", "datasets", "}", "if", "isinstance", "(", "hyperparameters", ",", "list", ")", ":", "hyperparameters", "=", "{", "pipeline", ":", "hyperparameter", "for", "pipeline", ",", "hyperparameter", "in", "zip", "(", "pipelines", ".", "keys", "(", ")", ",", "hyperparameters", ")", "}", "if", "isinstance", "(", "metrics", ",", "list", ")", ":", "metrics_", "=", "dict", "(", ")", "for", "metric", "in", "metrics", ":", "if", "callable", "(", "metric", ")", ":", "metrics_", "[", "metric", ".", "__name__", "]", "=", "metric", "elif", "metric", "in", "METRICS", ":", "metrics_", "[", "metric", "]", "=", "METRICS", "[", "metric", "]", "else", ":", "raise", "ValueError", "(", "'Unknown metric: {}'", ".", "format", "(", "metric", ")", ")", "metrics", "=", "metrics_", "if", "cache_dir", ":", "cache_dir", "=", "Path", "(", "cache_dir", ")", "os", ".", "makedirs", "(", "cache_dir", ",", "exist_ok", "=", "True", ")", "if", "pipeline_dir", ":", "pipeline_dir", "=", "Path", "(", "pipeline_dir", ")", "os", ".", "makedirs", "(", "pipeline_dir", ",", "exist_ok", "=", "True", ")", "jobs", "=", "list", "(", ")", "for", "dataset", ",", "signals", "in", "datasets", ".", "items", "(", ")", ":", "for", "pipeline_name", ",", "pipeline", "in", "pipelines", ".", "items", "(", ")", ":", "hyperparameter", "=", "_get_pipeline_hyperparameter", "(", "hyperparameters", ",", "dataset", ",", "pipeline_name", ")", "parameters", "=", "BENCHMARK_PARAMS", ".", "get", "(", "dataset", ")", "if", "parameters", "is", "not", "None", ":", "detrend", ",", "test_split", "=", "parameters", ".", "values", "(", ")", "for", "signal", "in", "signals", ":", "for", "iteration", "in", "range", "(", "iterations", ")", ":", "args", "=", "(", "pipeline", ",", "pipeline_name", ",", "dataset", ",", "signal", ",", "hyperparameter", ",", "metrics", ",", "test_split", ",", "detrend", ",", "iteration", ",", "cache_dir", ",", "pipeline_dir", ",", "run_id", ",", ")", "jobs", ".", "append", "(", "args", ")", "if", "workers", "==", "'dask'", ":", "scores", "=", "_run_on_dask", "(", "jobs", ",", "show_progress", ")", "else", ":", "if", "workers", "in", "(", "0", ",", "1", ")", ":", "scores", "=", "map", "(", "_run_job", ",", "jobs", ")", "else", ":", "pool", "=", "concurrent", ".", "futures", ".", "ProcessPoolExecutor", "(", "workers", ")", "scores", "=", "pool", ".", "map", "(", "_run_job", ",", "jobs", ")", "scores", "=", "tqdm", ".", "tqdm", "(", "scores", ",", "total", "=", "len", "(", "jobs", ")", ",", "file", "=", "TqdmLogger", "(", ")", ")", "if", "show_progress", ":", "scores", "=", "tqdm", ".", "tqdm", "(", "scores", ",", "total", "=", "len", "(", "jobs", ")", ")", "scores", "=", "pd", ".", "concat", "(", "scores", ")", "if", "output_path", ":", "LOGGER", ".", "info", "(", "'Saving benchmark report to %s'", ",", "output_path", ")", "scores", ".", "to_csv", "(", "output_path", ",", "index", "=", "False", ")", "return", "_sort_leaderboard", "(", "scores", ",", "rank", ",", "metrics", ")" ]

[ 239, 0 ]

[ 375, 51 ]

[ "def", "git_add", "(", "filename", ":", "str", ")", "->", "None", ":", "run", "(", "[", "'git'", ",", "'add'", ",", "'--'", ",", "filename", "]", ")" ]

[ 20, 0 ]

[ 25, 39 ]

[ "def", "git_check_clean", "(", "allow_staged", ":", "bool", "=", "False", ")", "->", "None", ":", "out", "=", "run_capture", "(", "[", "'git'", ",", "'status'", ",", "'--porcelain'", "]", ")", "if", "out", ":", "# Can we allow staged changes?", "if", "not", "allow_staged", ":", "# Nope. ANY changes are unacceptable, so we can short-circuit", "# here.", "raise", "Exception", "(", "out", ")", "# If here, staged changes are OK, and unstaged changes are not.", "# In the porcelain output, staged changes start with a change", "# character followed by a space, and unstaged changes start with a", "# space followed by a change character. So any lines with a non-space", "# in the second column are a problem here.", "lines", "=", "out", ".", "split", "(", "'\\n'", ")", "problems", "=", "[", "line", "for", "line", "in", "lines", "if", "line", "[", "1", "]", "!=", "' '", "]", "if", "problems", ":", "raise", "Exception", "(", "\"\\n\"", ".", "join", "(", "problems", ")", ")" ]

[ 28, 0 ]

[ 52, 48 ]

[ "def", "create_proxy_zip", "(", "proxy_string", ",", "proxy_user", ",", "proxy_pass", ")", ":", "proxy_host", "=", "proxy_string", ".", "split", "(", "':'", ")", "[", "0", "]", "proxy_port", "=", "proxy_string", ".", "split", "(", "':'", ")", "[", "1", "]", "background_js", "=", "(", "\"\"\"var config = {\\n\"\"\"", "\"\"\" mode: \"fixed_servers\",\\n\"\"\"", "\"\"\" rules: {\\n\"\"\"", "\"\"\" singleProxy: {\\n\"\"\"", "\"\"\" scheme: \"http\",\\n\"\"\"", "\"\"\" host: \"%s\",\\n\"\"\"", "\"\"\" port: parseInt(\"%s\")\\n\"\"\"", "\"\"\" },\\n\"\"\"", "\"\"\" }\\n\"\"\"", "\"\"\" };\\n\"\"\"", "\"\"\"chrome.proxy.settings.set(\"\"\"", "\"\"\"{value: config, scope: \"regular\"}, function() {\"\"\"", "\"\"\"});\\n\"\"\"", "\"\"\"function callbackFn(details) {\\n\"\"\"", "\"\"\" return {\\n\"\"\"", "\"\"\" authCredentials: {\\n\"\"\"", "\"\"\" username: \"%s\",\\n\"\"\"", "\"\"\" password: \"%s\"\\n\"\"\"", "\"\"\" }\\n\"\"\"", "\"\"\" };\\n\"\"\"", "\"\"\"}\\n\"\"\"", "\"\"\"chrome.webRequest.onAuthRequired.addListener(\\n\"\"\"", "\"\"\" callbackFn,\\n\"\"\"", "\"\"\" {urls: [\"<all_urls>\"]},\\n\"\"\"", "\"\"\" ['blocking']\\n\"\"\"", "\"\"\");\"\"\"", "%", "(", "proxy_host", ",", "proxy_port", ",", "proxy_user", ",", "proxy_pass", ")", ")", "manifest_json", "=", "(", "'''{\\n'''", "'''\"version\": \"1.0.0\",\\n'''", "'''\"manifest_version\": 2,\\n'''", "'''\"name\": \"Chrome Proxy\",\\n'''", "'''\"permissions\": [\\n'''", "''' \"proxy\",\\n'''", "''' \"tabs\",\\n'''", "''' \"unlimitedStorage\",\\n'''", "''' \"storage\",\\n'''", "''' \"<all_urls>\",\\n'''", "''' \"webRequest\",\\n'''", "''' \"webRequestBlocking\"\\n'''", "'''],\\n'''", "'''\"background\": {\\n'''", "''' \"scripts\": [\"background.js\"]\\n'''", "'''},\\n'''", "'''\"minimum_chrome_version\":\"22.0.0\"\\n'''", "'''}'''", ")", "lock", "=", "threading", ".", "RLock", "(", ")", "# Support multi-threaded test runs with Pytest", "with", "lock", ":", "try", ":", "zf", "=", "zipfile", ".", "ZipFile", "(", "PROXY_ZIP_PATH", ",", "mode", "=", "'w'", ")", "except", "IOError", ":", "# Handle \"Permission denied\" on the default proxy.zip path", "abs_path", "=", "os", ".", "path", ".", "abspath", "(", "'.'", ")", "downloads_path", "=", "os", ".", "path", ".", "join", "(", "abs_path", ",", "DOWNLOADS_DIR", ")", "if", "not", "os", ".", "path", ".", "exists", "(", "downloads_path", ")", ":", "os", ".", "mkdir", "(", "downloads_path", ")", "zf", "=", "zipfile", ".", "ZipFile", "(", "PROXY_ZIP_PATH_2", ",", "mode", "=", "'w'", ")", "zf", ".", "writestr", "(", "\"background.js\"", ",", "background_js", ")", "zf", ".", "writestr", "(", "\"manifest.json\"", ",", "manifest_json", ")", "zf", ".", "close", "(", ")" ]

[ 11, 0 ]

[ 79, 18 ]

[ "def", "remove_proxy_zip_if_present", "(", ")", ":", "try", ":", "if", "os", ".", "path", ".", "exists", "(", "PROXY_ZIP_PATH", ")", ":", "os", ".", "remove", "(", "PROXY_ZIP_PATH", ")", "elif", "os", ".", "path", ".", "exists", "(", "PROXY_ZIP_PATH_2", ")", ":", "os", ".", "remove", "(", "PROXY_ZIP_PATH_2", ")", "except", "Exception", ":", "pass" ]

[ 82, 0 ]

[ 93, 12 ]

[ "def", "analyse_text", "(", "text", ")", ":", "if", "re", ".", "match", "(", "r'^\\s*REBOL\\s*\\['", ",", "text", ",", "re", ".", "IGNORECASE", ")", ":", "# The code starts with REBOL header", "return", "1.0", "elif", "re", ".", "search", "(", "r'\\s*REBOL\\s*['", ",", "text", ",", "re", ".", "IGNORECASE", ")", ":", "# The code contains REBOL header but also some text before it", "return", "0.5" ]

[ 234, 4 ]

[ 243, 22 ]

[ "def", "get_index", "(", "subjects", ",", "ra", ")", ":", "train_pose_3d", "=", "[", "]", "for", "subject", "in", "subjects", ":", "# print('subject',subject)", "for", "action", "in", "dataset", "[", "subject", "]", ".", "keys", "(", ")", ":", "# print('action',action)", "# poses_2d = keypoints[subject][action]", "poses_3d", "=", "dataset", "[", "subject", "]", "[", "action", "]", "[", "'positions_3d'", "]", "# out = []", "for", "i", "in", "range", "(", "len", "(", "poses_3d", ")", ")", ":", "# Remove global offset, but keep trajectory in first position", "poses_3d", "[", "i", "]", "-=", "poses_3d", "[", "i", "]", "[", ":", ",", ":", "1", "]", "if", "cal_mean", ":", "mean_3d_1", "=", "np", ".", "mean", "(", "poses_3d", "[", "i", "]", ",", "axis", "=", "0", ")", "elif", "cal_distance", ":", "ext_mean_pose", "=", "np", ".", "repeat", "(", "mean_pose", "[", "np", ".", "newaxis", ",", ":", ",", ":", "]", ",", "poses_3d", "[", "i", "]", ".", "shape", "[", "0", "]", ",", "axis", "=", "0", ")", "assert", "ext_mean_pose", ".", "shape", "==", "poses_3d", "[", "i", "]", ".", "shape", "pose_dis", "=", "np", ".", "linalg", ".", "norm", "(", "(", "ext_mean_pose", "-", "poses_3d", "[", "i", "]", ")", ",", "axis", "=", "-", "1", ")", "pose_dis_mean", "=", "np", ".", "mean", "(", "pose_dis", ",", "axis", "=", "-", "1", ")", "# out.append(pose_dis_mean)", "train_pose_3d", ".", "append", "(", "pose_dis_mean", ")", "# plot17j(out, subject, action, show_animation=False)", "full_pose", "=", "np", ".", "concatenate", "(", "train_pose_3d", ",", "axis", "=", "0", ")", "# Sorted from large to small distance", "sorted_index", "=", "np", ".", "argsort", "(", "-", "full_pose", ")", "full_pose", ".", "tolist", "(", ")", "# sorted_dis = sorted(full_pose, reverse=True)", "# print('From large to small value:',sorted_dis)", "print", "(", "'index'", ",", "sorted_index", ")", "num", "=", "len", "(", "full_pose", ")", "print", "(", "'Total pose:'", ",", "num", ")", "ratio", "=", "ra", "pick_num", "=", "int", "(", "ratio", "*", "num", ")", "print", "(", "'Picked number:'", ",", "pick_num", ")", "pick_index", "=", "sorted_index", "[", ":", "pick_num", "]", "np", ".", "set_printoptions", "(", "threshold", "=", "np", ".", "inf", ")", "# print(pick_index)", "rerank", "=", "sorted", "(", "pick_index", ")", "print", "(", "'rerank'", ",", "len", "(", "rerank", ")", ")", "return", "rerank" ]

[ 119, 0 ]

[ 165, 17 ]

[ "def", "split_data", "(", "index", ")", ":", "out", "=", "[", "]", "j", "=", "0", "for", "i", "in", "index", ":", "if", "i", "<", "len", "(", "index", ")", "-", "1", ":", "if", "index", "[", "i", "+", "1", "]", "-", "index", "[", "i", "]", ">", "5", ":", "print", "(", "'Split index into smaller groups:'", ",", "j", ",", "i", ")", "out", ".", "append", "(", "index", "[", "j", ":", "(", "i", "+", "1", ")", "]", ")", "j", "=", "i", "+", "1", "elif", "i", "==", "len", "(", "index", ")", "-", "1", ":", "out", ".", "append", "(", "index", "[", "j", ":", "]", ")", "print", "(", "'Split group:'", ",", "len", "(", "out", ")", ")", "return", "out" ]

[ 187, 0 ]

[ 204, 14 ]

[ "def", "start_clock", "(", "self", ")", ":" ]

[ 15, 4 ]

[ 20, 11 ]

[ "def", "current_time", "(", "self", ")", ":" ]

[ 23, 4 ]

[ 32, 11 ]

[ "def", "deadline_to_sleep_time", "(", "self", ",", "deadline", ")", ":" ]

[ 35, 4 ]

[ 56, 11 ]

[ "def", "before_run", "(", "self", ")", ":" ]

[ 69, 4 ]

[ 70, 58 ]

[ "def", "after_run", "(", "self", ")", ":" ]

[ 72, 4 ]

[ 73, 58 ]

[ "def", "task_spawned", "(", "self", ",", "task", ")", ":" ]

[ 75, 4 ]

[ 81, 11 ]

[ "def", "task_scheduled", "(", "self", ",", "task", ")", ":" ]

[ 83, 4 ]

[ 92, 11 ]

[ "def", "before_task_step", "(", "self", ",", "task", ")", ":" ]

[ 94, 4 ]

[ 100, 11 ]

[ "def", "after_task_step", "(", "self", ",", "task", ")", ":" ]

[ 102, 4 ]

[ 108, 11 ]

[ "def", "task_exited", "(", "self", ",", "task", ")", ":" ]

[ 110, 4 ]

[ 116, 11 ]

[ "def", "before_io_wait", "(", "self", ",", "timeout", ")", ":" ]

[ 118, 4 ]

[ 124, 11 ]

[ "def", "after_io_wait", "(", "self", ",", "timeout", ")", ":" ]

[ 126, 4 ]

[ 134, 11 ]

[ "async", "def", "getaddrinfo", "(", "self", ",", "host", ",", "port", ",", "family", "=", "0", ",", "type", "=", "0", ",", "proto", "=", "0", ",", "flags", "=", "0", ")", ":" ]

[ 148, 4 ]

[ 162, 11 ]

[ "async", "def", "getnameinfo", "(", "self", ",", "sockaddr", ",", "flags", ")", ":" ]

[ 165, 4 ]

[ 170, 11 ]

[ "def", "socket", "(", "self", ",", "family", "=", "None", ",", "type", "=", "None", ",", "proto", "=", "None", ")", ":" ]

[ 182, 4 ]

[ 196, 11 ]

[ "async", "def", "aclose", "(", "self", ")", ":" ]

[ 228, 4 ]

[ 254, 11 ]

[ "async", "def", "send_all", "(", "self", ",", "data", ")", ":" ]

[ 282, 4 ]

[ 305, 11 ]

[ "async", "def", "wait_send_all_might_not_block", "(", "self", ")", ":" ]

[ 308, 4 ]

[ 361, 11 ]

[ "async", "def", "receive_some", "(", "self", ",", "max_bytes", "=", "None", ")", ":" ]

[ 388, 4 ]

[ 414, 11 ]

[ "async", "def", "send_eof", "(", "self", ")", ":" ]

[ 449, 4 ]

[ 495, 11 ]

[ "async", "def", "accept", "(", "self", ")", ":" ]

[ 528, 4 ]

[ 552, 11 ]

[ "async", "def", "send", "(", "self", ",", "value", ":", "SendType", ")", "->", "None", ":" ]

[ 570, 4 ]

[ 588, 11 ]

[ "async", "def", "receive", "(", "self", ")", "->", "ReceiveType", ":" ]

[ 615, 4 ]

[ 633, 11 ]

[ "def", "validate_configuration", "(", "self", ",", "configuration", ":", "Optional", "[", "ExpectationConfiguration", "]", ")", ":", "super", "(", ")", ".", "validate_configuration", "(", "configuration", ")", "self", ".", "validate_metric_value_between_configuration", "(", "configuration", "=", "configuration", ")" ]

[ 119, 4 ]

[ 131, 85 ]

[ "def", "test_snowflake_user_password_credentials_exit", "(", "empty_data_context", ")", ":", "project_root_dir", "=", "empty_data_context", ".", "root_directory", "context", "=", "DataContext", "(", "project_root_dir", ")", "runner", "=", "CliRunner", "(", "mix_stderr", "=", "False", ")", "result", "=", "runner", ".", "invoke", "(", "cli", ",", "[", "\"datasource\"", ",", "\"new\"", ",", "\"-d\"", ",", "project_root_dir", "]", ",", "catch_exceptions", "=", "False", ",", "input", "=", "\"2\\n4\\nmy_snowflake_db\\n1\\nuser\\nABCD.us-east-1\\ndefault_db\\ndefault_schema\\nxsmall\\npublic\\npassword\\nn\\n\"", ",", ")", "stdout", "=", "result", ".", "stdout", ".", "strip", "(", ")", "assert", "\"ok, exiting now\"", "in", "stdout", ".", "lower", "(", ")" ]

[ 13, 0 ]

[ 27, 46 ]

[ "def", "_execute_integration_test", "(", "test_configuration", ",", "tmp_path", ")", ":", "assert", "(", "\"user_flow_script\"", "in", "test_configuration", ".", "keys", "(", ")", ")", ",", "\"a `user_flow_script` is required\"", "workdir", "=", "os", ".", "getcwd", "(", ")", "try", ":", "base_dir", "=", "test_configuration", ".", "get", "(", "\"base_dir\"", ",", "file_relative_path", "(", "__file__", ",", "\"../../\"", ")", ")", "os", ".", "chdir", "(", "tmp_path", ")", "# Ensure GE is installed in our environment", "ge_requirement", "=", "test_configuration", ".", "get", "(", "\"ge_requirement\"", ",", "\"great_expectations\"", ")", "execute_shell_command", "(", "f\"pip install {ge_requirement}\"", ")", "#", "# Build test state", "#", "# DataContext", "if", "test_configuration", ".", "get", "(", "\"data_context_dir\"", ")", ":", "context_source_dir", "=", "os", ".", "path", ".", "join", "(", "base_dir", ",", "test_configuration", ".", "get", "(", "\"data_context_dir\"", ")", ")", "test_context_dir", "=", "os", ".", "path", ".", "join", "(", "tmp_path", ",", "\"great_expectations\"", ")", "shutil", ".", "copytree", "(", "context_source_dir", ",", "test_context_dir", ",", ")", "# Test Data", "if", "test_configuration", ".", "get", "(", "\"data_dir\"", ")", "is", "not", "None", ":", "source_data_dir", "=", "os", ".", "path", ".", "join", "(", "base_dir", ",", "test_configuration", ".", "get", "(", "\"data_dir\"", ")", ")", "test_data_dir", "=", "os", ".", "path", ".", "join", "(", "tmp_path", ",", "\"data\"", ")", "shutil", ".", "copytree", "(", "source_data_dir", ",", "test_data_dir", ",", ")", "# UAT Script", "script_source", "=", "os", ".", "path", ".", "join", "(", "base_dir", ",", "test_configuration", ".", "get", "(", "\"user_flow_script\"", ")", ",", ")", "script_path", "=", "os", ".", "path", ".", "join", "(", "tmp_path", ",", "\"test_script.py\"", ")", "shutil", ".", "copyfile", "(", "script_source", ",", "script_path", ")", "# Util Script", "if", "test_configuration", ".", "get", "(", "\"util_script\"", ")", "is", "not", "None", ":", "script_source", "=", "os", ".", "path", ".", "join", "(", "base_dir", ",", "test_configuration", ".", "get", "(", "\"util_script\"", ")", ",", ")", "util_script_path", "=", "os", ".", "path", ".", "join", "(", "tmp_path", ",", "\"util.py\"", ")", "shutil", ".", "copyfile", "(", "script_source", ",", "util_script_path", ")", "# Check initial state", "# Execute test", "res", "=", "subprocess", ".", "run", "(", "[", "\"python\"", ",", "script_path", "]", ",", "capture_output", "=", "True", ")", "# Check final state", "expected_stderrs", "=", "test_configuration", ".", "get", "(", "\"expected_stderrs\"", ")", "expected_stdouts", "=", "test_configuration", ".", "get", "(", "\"expected_stdouts\"", ")", "expected_failure", "=", "test_configuration", ".", "get", "(", "\"expected_failure\"", ")", "outs", "=", "res", ".", "stdout", ".", "decode", "(", "\"utf-8\"", ")", "errs", "=", "res", ".", "stderr", ".", "decode", "(", "\"utf-8\"", ")", "print", "(", "outs", ")", "print", "(", "errs", ")", "if", "expected_stderrs", ":", "assert", "expected_stderrs", "==", "errs", "if", "expected_stdouts", ":", "assert", "expected_stdouts", "==", "outs", "if", "expected_failure", ":", "assert", "res", ".", "returncode", "!=", "0", "else", ":", "assert", "res", ".", "returncode", "==", "0", "except", ":", "raise", "finally", ":", "os", ".", "chdir", "(", "workdir", ")" ]

[ 238, 0 ]

[ 325, 25 ]

[ "def", "_check_for_skipped_tests", "(", "pytest_args", ",", "test_configuration", ")", "->", "None", ":", "dependencies", "=", "test_configuration", ".", "get", "(", "\"extra_backend_dependencies\"", ",", "None", ")", "if", "not", "dependencies", ":", "return", "elif", "dependencies", "==", "BackendDependencies", ".", "POSTGRESQL", "and", "(", "pytest_args", ".", "no_postgresql", "or", "pytest_args", ".", "no_sqlalchemy", ")", ":", "pytest", ".", "skip", "(", "\"Skipping postgres tests\"", ")", "elif", "dependencies", "==", "BackendDependencies", ".", "MYSQL", "and", "(", "not", "pytest_args", ".", "mysql", "or", "pytest_args", ".", "no_sqlalchemy", ")", ":", "pytest", ".", "skip", "(", "\"Skipping mysql tests\"", ")", "elif", "dependencies", "==", "BackendDependencies", ".", "MSSQL", "and", "(", "pytest_args", ".", "no_mssql", "or", "pytest_args", ".", "no_sqlalchemy", ")", ":", "pytest", ".", "skip", "(", "\"Skipping mssql tests\"", ")", "elif", "dependencies", "==", "BackendDependencies", ".", "BIGQUERY", "and", "pytest_args", ".", "no_sqlalchemy", ":", "pytest", ".", "skip", "(", "\"Skipping bigquery tests\"", ")", "elif", "dependencies", "==", "BackendDependencies", ".", "REDSHIFT", "and", "pytest_args", ".", "no_sqlalchemy", ":", "pytest", ".", "skip", "(", "\"Skipping redshift tests\"", ")", "elif", "dependencies", "==", "BackendDependencies", ".", "SPARK", "and", "pytest_args", ".", "no_spark", ":", "pytest", ".", "skip", "(", "\"Skipping spark tests\"", ")", "elif", "dependencies", "==", "BackendDependencies", ".", "SNOWFLAKE", "and", "pytest_args", ".", "no_sqlalchemy", ":", "pytest", ".", "skip", "(", "\"Skipping snowflake tests\"", ")" ]

[ 328, 0 ]

[ 352, 47 ]

[ "def", "__init__", "(", "self", ",", "data_context", ":", "DataContext", ",", "batch_request", ":", "Optional", "[", "Union", "[", "BatchRequest", ",", "dict", "]", "]", "=", "None", ",", "semantic_types", ":", "Optional", "[", "Union", "[", "str", ",", "SemanticDomainTypes", ",", "List", "[", "Union", "[", "str", ",", "SemanticDomainTypes", "]", "]", "]", "]", "=", "None", ",", ")", ":", "super", "(", ")", ".", "__init__", "(", "data_context", "=", "data_context", ",", "batch_request", "=", "batch_request", ",", ")", "if", "semantic_types", "is", "None", ":", "semantic_types", "=", "[", "]", "self", ".", "_semantic_types", "=", "semantic_types" ]

[ 22, 4 ]

[ 43, 45 ]

[ "def", "_get_domains", "(", "self", ",", "variables", ":", "Optional", "[", "ParameterContainer", "]", "=", "None", ",", ")", "->", "List", "[", "Domain", "]", ":", "semantic_types", ":", "List", "[", "SemanticDomainTypes", "]", "=", "_parse_semantic_domain_type_argument", "(", "semantic_types", "=", "self", ".", "_semantic_types", ")", "batch_id", ":", "str", "=", "self", ".", "get_batch_id", "(", "variables", "=", "variables", ")", "column_types_dict_list", ":", "List", "[", "Dict", "[", "str", ",", "Any", "]", "]", "=", "self", ".", "get_validator", "(", "variables", "=", "variables", ")", ".", "get_metric", "(", "metric", "=", "MetricConfiguration", "(", "metric_name", "=", "\"table.column_types\"", ",", "metric_domain_kwargs", "=", "{", "\"batch_id\"", ":", "batch_id", ",", "}", ",", "metric_value_kwargs", "=", "{", "\"include_nested\"", ":", "True", ",", "}", ",", "metric_dependencies", "=", "None", ",", ")", ")", "table_column_names", ":", "List", "[", "str", "]", "=", "self", ".", "get_validator", "(", "variables", "=", "variables", ")", ".", "get_metric", "(", "metric", "=", "MetricConfiguration", "(", "metric_name", "=", "\"table.columns\"", ",", "metric_domain_kwargs", "=", "{", "\"batch_id\"", ":", "batch_id", ",", "}", ",", "metric_value_kwargs", "=", "None", ",", "metric_dependencies", "=", "None", ",", ")", ")", "column_name", ":", "str", "# A semantic type is distinguished from the structured column type;", "# An example structured column type would be \"integer\". The inferred semantic type would be \"id\".", "table_column_name_to_inferred_semantic_domain_type_mapping", ":", "Dict", "[", "str", ",", "SemanticDomainTypes", "]", "=", "{", "column_name", ":", "self", ".", "infer_semantic_domain_type_from_table_column_type", "(", "column_types_dict_list", "=", "column_types_dict_list", ",", "column_name", "=", "column_name", ",", ")", ".", "semantic_domain_type", "for", "column_name", "in", "table_column_names", "}", "candidate_column_names", ":", "List", "[", "str", "]", "=", "list", "(", "filter", "(", "lambda", "candidate_column_name", ":", "table_column_name_to_inferred_semantic_domain_type_mapping", "[", "candidate_column_name", "]", "in", "semantic_types", ",", "table_column_names", ",", ")", ")", "domains", ":", "List", "[", "Domain", "]", "=", "[", "Domain", "(", "domain_type", "=", "MetricDomainTypes", ".", "COLUMN", ",", "domain_kwargs", "=", "{", "\"column\"", ":", "column_name", ",", "}", ",", "details", "=", "{", "\"inferred_semantic_domain_type\"", ":", "table_column_name_to_inferred_semantic_domain_type_mapping", "[", "column_name", "]", ",", "}", ",", ")", "for", "column_name", "in", "candidate_column_names", "]", "return", "domains" ]

[ 45, 4 ]

[ 123, 22 ]

[ "def", "__init__", "(", "self", ",", "model_name_or_path", ":", "Union", "[", "str", ",", "Path", "]", ",", "model_version", ":", "Optional", "[", "str", "]", "=", "None", ",", "context_window_size", ":", "int", "=", "150", ",", "batch_size", ":", "int", "=", "50", ",", "use_gpu", ":", "bool", "=", "True", ",", "no_ans_boost", ":", "float", "=", "0.0", ",", "return_no_answer", ":", "bool", "=", "False", ",", "top_k_per_candidate", ":", "int", "=", "3", ",", "top_k_per_sample", ":", "int", "=", "1", ",", "num_processes", ":", "Optional", "[", "int", "]", "=", "None", ",", "max_seq_len", ":", "int", "=", "256", ",", "doc_stride", ":", "int", "=", "128", ",", "progress_bar", ":", "bool", "=", "True", ")", ":", "self", ".", "return_no_answers", "=", "return_no_answer", "self", ".", "top_k_per_candidate", "=", "top_k_per_candidate", "self", ".", "inferencer", "=", "QAInferencer", ".", "load", "(", "model_name_or_path", ",", "batch_size", "=", "batch_size", ",", "gpu", "=", "use_gpu", ",", "task_type", "=", "\"question_answering\"", ",", "max_seq_len", "=", "max_seq_len", ",", "doc_stride", "=", "doc_stride", ",", "num_processes", "=", "num_processes", ",", "revision", "=", "model_version", ",", "disable_tqdm", "=", "not", "progress_bar", ")", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "context_window_size", "=", "context_window_size", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "no_ans_boost", "=", "no_ans_boost", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "n_best", "=", "top_k_per_candidate", "+", "1", "# including possible no_answer", "try", ":", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "n_best_per_sample", "=", "top_k_per_sample", "except", ":", "logger", ".", "warning", "(", "\"Could not set `top_k_per_sample` in FARM. Please update FARM version.\"", ")", "self", ".", "max_seq_len", "=", "max_seq_len", "self", ".", "use_gpu", "=", "use_gpu", "self", ".", "progress_bar", "=", "progress_bar" ]

[ 40, 4 ]

[ 108, 40 ]

[ "def", "train", "(", "self", ",", "data_dir", ":", "str", ",", "train_filename", ":", "str", ",", "dev_filename", ":", "Optional", "[", "str", "]", "=", "None", ",", "test_filename", ":", "Optional", "[", "str", "]", "=", "None", ",", "use_gpu", ":", "Optional", "[", "bool", "]", "=", "None", ",", "batch_size", ":", "int", "=", "10", ",", "n_epochs", ":", "int", "=", "2", ",", "learning_rate", ":", "float", "=", "1e-5", ",", "max_seq_len", ":", "Optional", "[", "int", "]", "=", "None", ",", "warmup_proportion", ":", "float", "=", "0.2", ",", "dev_split", ":", "float", "=", "0", ",", "evaluate_every", ":", "int", "=", "300", ",", "save_dir", ":", "Optional", "[", "str", "]", "=", "None", ",", "num_processes", ":", "Optional", "[", "int", "]", "=", "None", ",", "use_amp", ":", "str", "=", "None", ",", ")", ":", "if", "dev_filename", ":", "dev_split", "=", "0", "if", "num_processes", "is", "None", ":", "num_processes", "=", "multiprocessing", ".", "cpu_count", "(", ")", "-", "1", "or", "1", "set_all_seeds", "(", "seed", "=", "42", ")", "# For these variables, by default, we use the value set when initializing the FARMReader.", "# These can also be manually set when train() is called if you want a different value at train vs inference", "if", "use_gpu", "is", "None", ":", "use_gpu", "=", "self", ".", "use_gpu", "if", "max_seq_len", "is", "None", ":", "max_seq_len", "=", "self", ".", "max_seq_len", "device", ",", "n_gpu", "=", "initialize_device_settings", "(", "use_cuda", "=", "use_gpu", ",", "use_amp", "=", "use_amp", ")", "if", "not", "save_dir", ":", "save_dir", "=", "f\"../../saved_models/{self.inferencer.model.language_model.name}\"", "# 1. Create a DataProcessor that handles all the conversion from raw text into a pytorch Dataset", "label_list", "=", "[", "\"start_token\"", ",", "\"end_token\"", "]", "metric", "=", "\"squad\"", "processor", "=", "SquadProcessor", "(", "tokenizer", "=", "self", ".", "inferencer", ".", "processor", ".", "tokenizer", ",", "max_seq_len", "=", "max_seq_len", ",", "label_list", "=", "label_list", ",", "metric", "=", "metric", ",", "train_filename", "=", "train_filename", ",", "dev_filename", "=", "dev_filename", ",", "dev_split", "=", "dev_split", ",", "test_filename", "=", "test_filename", ",", "data_dir", "=", "Path", "(", "data_dir", ")", ",", ")", "# 2. Create a DataSilo that loads several datasets (train/dev/test), provides DataLoaders for them", "# and calculates a few descriptive statistics of our datasets", "data_silo", "=", "DataSilo", "(", "processor", "=", "processor", ",", "batch_size", "=", "batch_size", ",", "distributed", "=", "False", ",", "max_processes", "=", "num_processes", ")", "# Quick-fix until this is fixed upstream in FARM:", "# We must avoid applying DataParallel twice (once when loading the inferencer,", "# once when calling initalize_optimizer)", "self", ".", "inferencer", ".", "model", ".", "save", "(", "\"tmp_model\"", ")", "model", "=", "BaseAdaptiveModel", ".", "load", "(", "load_dir", "=", "\"tmp_model\"", ",", "device", "=", "device", ",", "strict", "=", "True", ")", "shutil", ".", "rmtree", "(", "'tmp_model'", ")", "# 3. Create an optimizer and pass the already initialized model", "model", ",", "optimizer", ",", "lr_schedule", "=", "initialize_optimizer", "(", "model", "=", "model", ",", "# model=self.inferencer.model,", "learning_rate", "=", "learning_rate", ",", "schedule_opts", "=", "{", "\"name\"", ":", "\"LinearWarmup\"", ",", "\"warmup_proportion\"", ":", "warmup_proportion", "}", ",", "n_batches", "=", "len", "(", "data_silo", ".", "loaders", "[", "\"train\"", "]", ")", ",", "n_epochs", "=", "n_epochs", ",", "device", "=", "device", ",", "use_amp", "=", "use_amp", ",", ")", "# 4. Feed everything to the Trainer, which keeps care of growing our model and evaluates it from time to time", "trainer", "=", "Trainer", "(", "model", "=", "model", ",", "optimizer", "=", "optimizer", ",", "data_silo", "=", "data_silo", ",", "epochs", "=", "n_epochs", ",", "n_gpu", "=", "n_gpu", ",", "lr_schedule", "=", "lr_schedule", ",", "evaluate_every", "=", "evaluate_every", ",", "device", "=", "device", ",", "use_amp", "=", "use_amp", ",", "disable_tqdm", "=", "not", "self", ".", "progress_bar", ")", "# 5. Let it grow!", "self", ".", "inferencer", ".", "model", "=", "trainer", ".", "train", "(", ")", "self", ".", "save", "(", "Path", "(", "save_dir", ")", ")" ]

[ 110, 4 ]

[ 238, 33 ]

[ "def", "update_parameters", "(", "self", ",", "context_window_size", ":", "Optional", "[", "int", "]", "=", "None", ",", "no_ans_boost", ":", "Optional", "[", "float", "]", "=", "None", ",", "return_no_answer", ":", "Optional", "[", "bool", "]", "=", "None", ",", "max_seq_len", ":", "Optional", "[", "int", "]", "=", "None", ",", "doc_stride", ":", "Optional", "[", "int", "]", "=", "None", ",", ")", ":", "if", "no_ans_boost", "is", "not", "None", ":", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "no_ans_boost", "=", "no_ans_boost", "if", "return_no_answer", "is", "not", "None", ":", "self", ".", "return_no_answers", "=", "return_no_answer", "if", "doc_stride", "is", "not", "None", ":", "self", ".", "inferencer", ".", "processor", ".", "doc_stride", "=", "doc_stride", "if", "context_window_size", "is", "not", "None", ":", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "context_window_size", "=", "context_window_size", "if", "max_seq_len", "is", "not", "None", ":", "self", ".", "inferencer", ".", "processor", ".", "max_seq_len", "=", "max_seq_len", "self", ".", "max_seq_len", "=", "max_seq_len" ]

[ 240, 4 ]

[ 261, 42 ]

[ "def", "save", "(", "self", ",", "directory", ":", "Path", ")", ":", "logger", ".", "info", "(", "f\"Saving reader model to {directory}\"", ")", "self", ".", "inferencer", ".", "model", ".", "save", "(", "directory", ")", "self", ".", "inferencer", ".", "processor", ".", "save", "(", "directory", ")" ]

[ 263, 4 ]

[ 271, 49 ]

[ "def", "predict_batch", "(", "self", ",", "query_doc_list", ":", "List", "[", "dict", "]", ",", "top_k", ":", "int", "=", "None", ",", "batch_size", ":", "int", "=", "None", ")", ":", "# convert input to FARM format", "inputs", "=", "[", "]", "number_of_docs", "=", "[", "]", "labels", "=", "[", "]", "# build input objects for inference_from_objects", "for", "query_with_docs", "in", "query_doc_list", ":", "documents", "=", "query_with_docs", "[", "\"docs\"", "]", "query", "=", "query_with_docs", "[", "\"question\"", "]", "labels", ".", "append", "(", "query", ")", "number_of_docs", ".", "append", "(", "len", "(", "documents", ")", ")", "for", "doc", "in", "documents", ":", "cur", "=", "QAInput", "(", "doc_text", "=", "doc", ".", "text", ",", "questions", "=", "Question", "(", "text", "=", "query", ".", "question", ",", "uid", "=", "doc", ".", "id", ")", ")", "inputs", ".", "append", "(", "cur", ")", "self", ".", "inferencer", ".", "batch_size", "=", "batch_size", "# make predictions on all document-query pairs", "predictions", "=", "self", ".", "inferencer", ".", "inference_from_objects", "(", "objects", "=", "inputs", ",", "return_json", "=", "False", ",", "multiprocessing_chunksize", "=", "1", ")", "# group predictions together", "grouped_predictions", "=", "[", "]", "left_idx", "=", "0", "right_idx", "=", "0", "for", "number", "in", "number_of_docs", ":", "right_idx", "=", "left_idx", "+", "number", "grouped_predictions", ".", "append", "(", "predictions", "[", "left_idx", ":", "right_idx", "]", ")", "left_idx", "=", "right_idx", "result", "=", "[", "]", "for", "idx", ",", "group", "in", "enumerate", "(", "grouped_predictions", ")", ":", "answers", ",", "max_no_ans_gap", "=", "self", ".", "_extract_answers_of_predictions", "(", "group", ",", "top_k", ")", "query", "=", "group", "[", "0", "]", ".", "question", "cur_label", "=", "labels", "[", "idx", "]", "result", ".", "append", "(", "{", "\"query\"", ":", "query", ",", "\"no_ans_gap\"", ":", "max_no_ans_gap", ",", "\"answers\"", ":", "answers", ",", "\"label\"", ":", "cur_label", "}", ")", "return", "result" ]

[ 273, 4 ]

[ 330, 21 ]

[ "def", "predict", "(", "self", ",", "query", ":", "str", ",", "documents", ":", "List", "[", "Document", "]", ",", "top_k", ":", "Optional", "[", "int", "]", "=", "None", ")", ":", "# convert input to FARM format", "inputs", "=", "[", "]", "for", "doc", "in", "documents", ":", "cur", "=", "QAInput", "(", "doc_text", "=", "doc", ".", "text", ",", "questions", "=", "Question", "(", "text", "=", "query", ",", "uid", "=", "doc", ".", "id", ")", ")", "inputs", ".", "append", "(", "cur", ")", "# get answers from QA model", "# TODO: Need fix in FARM's `to_dict` function of `QAInput` class", "predictions", "=", "self", ".", "inferencer", ".", "inference_from_objects", "(", "objects", "=", "inputs", ",", "return_json", "=", "False", ",", "multiprocessing_chunksize", "=", "1", ")", "# assemble answers from all the different documents & format them.", "answers", ",", "max_no_ans_gap", "=", "self", ".", "_extract_answers_of_predictions", "(", "predictions", ",", "top_k", ")", "result", "=", "{", "\"query\"", ":", "query", ",", "\"no_ans_gap\"", ":", "max_no_ans_gap", ",", "\"answers\"", ":", "answers", "}", "return", "result" ]

[ 332, 4 ]

[ 379, 21 ]

[ "def", "eval_on_file", "(", "self", ",", "data_dir", ":", "str", ",", "test_filename", ":", "str", ",", "device", ":", "str", ")", ":", "eval_processor", "=", "SquadProcessor", "(", "tokenizer", "=", "self", ".", "inferencer", ".", "processor", ".", "tokenizer", ",", "max_seq_len", "=", "self", ".", "inferencer", ".", "processor", ".", "max_seq_len", ",", "label_list", "=", "self", ".", "inferencer", ".", "processor", ".", "tasks", "[", "\"question_answering\"", "]", "[", "\"label_list\"", "]", ",", "metric", "=", "self", ".", "inferencer", ".", "processor", ".", "tasks", "[", "\"question_answering\"", "]", "[", "\"metric\"", "]", ",", "train_filename", "=", "None", ",", "dev_filename", "=", "None", ",", "dev_split", "=", "0", ",", "test_filename", "=", "test_filename", ",", "data_dir", "=", "Path", "(", "data_dir", ")", ",", ")", "data_silo", "=", "DataSilo", "(", "processor", "=", "eval_processor", ",", "batch_size", "=", "self", ".", "inferencer", ".", "batch_size", ",", "distributed", "=", "False", ")", "data_loader", "=", "data_silo", ".", "get_data_loader", "(", "\"test\"", ")", "evaluator", "=", "Evaluator", "(", "data_loader", "=", "data_loader", ",", "tasks", "=", "eval_processor", ".", "tasks", ",", "device", "=", "device", ")", "eval_results", "=", "evaluator", ".", "eval", "(", "self", ".", "inferencer", ".", "model", ")", "results", "=", "{", "\"EM\"", ":", "eval_results", "[", "0", "]", "[", "\"EM\"", "]", ",", "\"f1\"", ":", "eval_results", "[", "0", "]", "[", "\"f1\"", "]", ",", "\"top_n_accuracy\"", ":", "eval_results", "[", "0", "]", "[", "\"top_n_accuracy\"", "]", "}", "return", "results" ]

[ 381, 4 ]

[ 419, 22 ]

[ "def", "eval", "(", "self", ",", "document_store", ":", "BaseDocumentStore", ",", "device", ":", "str", ",", "label_index", ":", "str", "=", "\"label\"", ",", "doc_index", ":", "str", "=", "\"eval_document\"", ",", "label_origin", ":", "str", "=", "\"gold_label\"", ",", ")", ":", "if", "self", ".", "top_k_per_candidate", "!=", "4", ":", "logger", ".", "info", "(", "f\"Performing Evaluation using top_k_per_candidate = {self.top_k_per_candidate} \\n\"", "f\"and consequently, QuestionAnsweringPredictionHead.n_best = {self.top_k_per_candidate + 1}. \\n\"", "f\"This deviates from FARM's default where QuestionAnsweringPredictionHead.n_best = 5\"", ")", "# extract all questions for evaluation", "filters", "=", "{", "\"origin\"", ":", "[", "label_origin", "]", "}", "labels", "=", "document_store", ".", "get_all_labels", "(", "index", "=", "label_index", ",", "filters", "=", "filters", ")", "# Aggregate all answer labels per question", "aggregated_per_doc", "=", "defaultdict", "(", "list", ")", "for", "label", "in", "labels", ":", "if", "not", "label", ".", "document_id", ":", "logger", ".", "error", "(", "f\"Label does not contain a document_id\"", ")", "continue", "aggregated_per_doc", "[", "label", ".", "document_id", "]", ".", "append", "(", "label", ")", "# Create squad style dicts", "d", ":", "Dict", "[", "str", ",", "Any", "]", "=", "{", "}", "all_doc_ids", "=", "[", "x", ".", "id", "for", "x", "in", "document_store", ".", "get_all_documents", "(", "doc_index", ")", "]", "for", "doc_id", "in", "all_doc_ids", ":", "doc", "=", "document_store", ".", "get_document_by_id", "(", "doc_id", ",", "index", "=", "doc_index", ")", "if", "not", "doc", ":", "logger", ".", "error", "(", "f\"Document with the ID '{doc_id}' is not present in the document store.\"", ")", "continue", "d", "[", "str", "(", "doc_id", ")", "]", "=", "{", "\"context\"", ":", "doc", ".", "text", "}", "# get all questions / answers", "aggregated_per_question", ":", "Dict", "[", "str", ",", "Any", "]", "=", "defaultdict", "(", "list", ")", "if", "doc_id", "in", "aggregated_per_doc", ":", "for", "label", "in", "aggregated_per_doc", "[", "doc_id", "]", ":", "# add to existing answers", "if", "label", ".", "question", "in", "aggregated_per_question", ".", "keys", "(", ")", ":", "if", "label", ".", "offset_start_in_doc", "==", "0", "and", "label", ".", "answer", "==", "\"\"", ":", "continue", "else", ":", "# Hack to fix problem where duplicate questions are merged by doc_store processing creating a QA example with 8 annotations > 6 annotation max", "if", "len", "(", "aggregated_per_question", "[", "label", ".", "question", "]", "[", "\"answers\"", "]", ")", ">=", "6", ":", "continue", "aggregated_per_question", "[", "label", ".", "question", "]", "[", "\"answers\"", "]", ".", "append", "(", "{", "\"text\"", ":", "label", ".", "answer", ",", "\"answer_start\"", ":", "label", ".", "offset_start_in_doc", "}", ")", "aggregated_per_question", "[", "label", ".", "question", "]", "[", "\"is_impossible\"", "]", "=", "False", "# create new one", "else", ":", "# We don't need to create an answer dict if is_impossible / no_answer", "if", "label", ".", "offset_start_in_doc", "==", "0", "and", "label", ".", "answer", "==", "\"\"", ":", "aggregated_per_question", "[", "label", ".", "question", "]", "=", "{", "\"id\"", ":", "str", "(", "hash", "(", "str", "(", "doc_id", ")", "+", "label", ".", "question", ")", ")", ",", "\"question\"", ":", "label", ".", "question", ",", "\"answers\"", ":", "[", "]", ",", "\"is_impossible\"", ":", "True", "}", "else", ":", "aggregated_per_question", "[", "label", ".", "question", "]", "=", "{", "\"id\"", ":", "str", "(", "hash", "(", "str", "(", "doc_id", ")", "+", "label", ".", "question", ")", ")", ",", "\"question\"", ":", "label", ".", "question", ",", "\"answers\"", ":", "[", "{", "\"text\"", ":", "label", ".", "answer", ",", "\"answer_start\"", ":", "label", ".", "offset_start_in_doc", "}", "]", ",", "\"is_impossible\"", ":", "False", "}", "# Get rid of the question key again (after we aggregated we don't need it anymore)", "d", "[", "str", "(", "doc_id", ")", "]", "[", "\"qas\"", "]", "=", "[", "v", "for", "v", "in", "aggregated_per_question", ".", "values", "(", ")", "]", "# Convert input format for FARM", "farm_input", "=", "[", "v", "for", "v", "in", "d", ".", "values", "(", ")", "]", "n_queries", "=", "len", "(", "[", "y", "for", "x", "in", "farm_input", "for", "y", "in", "x", "[", "\"qas\"", "]", "]", ")", "# Create DataLoader that can be passed to the Evaluator", "tic", "=", "perf_counter", "(", ")", "indices", "=", "range", "(", "len", "(", "farm_input", ")", ")", "dataset", ",", "tensor_names", ",", "problematic_ids", "=", "self", ".", "inferencer", ".", "processor", ".", "dataset_from_dicts", "(", "farm_input", ",", "indices", "=", "indices", ")", "data_loader", "=", "NamedDataLoader", "(", "dataset", "=", "dataset", ",", "batch_size", "=", "self", ".", "inferencer", ".", "batch_size", ",", "tensor_names", "=", "tensor_names", ")", "evaluator", "=", "Evaluator", "(", "data_loader", "=", "data_loader", ",", "tasks", "=", "self", ".", "inferencer", ".", "processor", ".", "tasks", ",", "device", "=", "device", ")", "eval_results", "=", "evaluator", ".", "eval", "(", "self", ".", "inferencer", ".", "model", ")", "toc", "=", "perf_counter", "(", ")", "reader_time", "=", "toc", "-", "tic", "results", "=", "{", "\"EM\"", ":", "eval_results", "[", "0", "]", "[", "\"EM\"", "]", "*", "100", ",", "\"f1\"", ":", "eval_results", "[", "0", "]", "[", "\"f1\"", "]", "*", "100", ",", "\"top_n_accuracy\"", ":", "eval_results", "[", "0", "]", "[", "\"top_n_accuracy\"", "]", "*", "100", ",", "\"top_n\"", ":", "self", ".", "inferencer", ".", "model", ".", "prediction_heads", "[", "0", "]", ".", "n_best", ",", "\"reader_time\"", ":", "reader_time", ",", "\"seconds_per_query\"", ":", "reader_time", "/", "n_queries", "}", "return", "results" ]

[ 421, 4 ]

[ 533, 22 ]

[ "def", "predict_on_texts", "(", "self", ",", "question", ":", "str", ",", "texts", ":", "List", "[", "str", "]", ",", "top_k", ":", "Optional", "[", "int", "]", "=", "None", ")", ":", "documents", "=", "[", "]", "for", "text", "in", "texts", ":", "documents", ".", "append", "(", "Document", "(", "text", "=", "text", ")", ")", "predictions", "=", "self", ".", "predict", "(", "question", ",", "documents", ",", "top_k", ")", "return", "predictions" ]

[ 597, 4 ]

[ 631, 26 ]

[ "def", "convert_to_onnx", "(", "cls", ",", "model_name", ":", "str", ",", "output_path", ":", "Path", ",", "convert_to_float16", ":", "bool", "=", "False", ",", "quantize", ":", "bool", "=", "False", ",", "task_type", ":", "str", "=", "\"question_answering\"", ",", "opset_version", ":", "int", "=", "11", ")", ":", "AdaptiveModel", ".", "convert_to_onnx", "(", "model_name", "=", "model_name", ",", "output_path", "=", "output_path", ",", "task_type", "=", "task_type", ",", "convert_to_float16", "=", "convert_to_float16", ",", "quantize", "=", "quantize", ",", "opset_version", "=", "opset_version", ")" ]

[ 634, 4 ]

[ 671, 9 ]

[ "def", "validate_configuration", "(", "self", ",", "configuration", ":", "Optional", "[", "ExpectationConfiguration", "]", ")", ":", "super", "(", ")", ".", "validate_configuration", "(", "configuration", ")", "self", ".", "validate_metric_value_between_configuration", "(", "configuration", "=", "configuration", ")" ]

[ 100, 4 ]

[ 112, 85 ]

[ "def", "get_domain_url", "(", "url", ")", ":", "if", "not", "url", ".", "startswith", "(", "\"http://\"", ")", "and", "not", "url", ".", "startswith", "(", "\"https://\"", ")", ":", "return", "url", "url_header", "=", "url", ".", "split", "(", "'://'", ")", "[", "0", "]", "simple_url", "=", "url", ".", "split", "(", "'://'", ")", "[", "1", "]", "base_url", "=", "simple_url", ".", "split", "(", "'/'", ")", "[", "0", "]", "domain_url", "=", "url_header", "+", "'://'", "+", "base_url", "return", "domain_url" ]

[ 8, 0 ]

[ 21, 21 ]

[ "def", "is_xpath_selector", "(", "selector", ")", ":", "if", "(", "selector", ".", "startswith", "(", "'/'", ")", "or", "selector", ".", "startswith", "(", "'./'", ")", "or", "(", "selector", ".", "startswith", "(", "'('", ")", ")", ")", ":", "return", "True", "return", "False" ]

[ 24, 0 ]

[ 31, 16 ]

[ "def", "is_link_text_selector", "(", "selector", ")", ":", "if", "(", "selector", ".", "startswith", "(", "'link='", ")", "or", "selector", ".", "startswith", "(", "'link_text='", ")", "or", "(", "selector", ".", "startswith", "(", "'text='", ")", ")", ")", ":", "return", "True", "return", "False" ]

[ 34, 0 ]

[ 41, 16 ]

[ "def", "is_partial_link_text_selector", "(", "selector", ")", ":", "if", "(", "selector", ".", "startswith", "(", "'partial_link='", ")", "or", "(", "selector", ".", "startswith", "(", "'partial_link_text='", ")", "or", "(", "selector", ".", "startswith", "(", "'partial_text='", ")", ")", ")", ")", ":", "return", "True", "return", "False" ]

[ 44, 0 ]

[ 52, 16 ]

[ "def", "is_name_selector", "(", "selector", ")", ":", "if", "selector", ".", "startswith", "(", "'name='", ")", ":", "return", "True", "return", "False" ]

[ 55, 0 ]

[ 61, 16 ]

[ "def", "get_link_text_from_selector", "(", "selector", ")", ":", "if", "selector", ".", "startswith", "(", "'link='", ")", ":", "return", "selector", ".", "split", "(", "'link='", ")", "[", "1", "]", "elif", "selector", ".", "startswith", "(", "'link_text='", ")", ":", "return", "selector", ".", "split", "(", "'link_text='", ")", "[", "1", "]", "elif", "selector", ".", "startswith", "(", "'text='", ")", ":", "return", "selector", ".", "split", "(", "'text='", ")", "[", "1", "]", "return", "selector" ]

[ 64, 0 ]

[ 74, 19 ]

[ "def", "get_partial_link_text_from_selector", "(", "selector", ")", ":", "if", "selector", ".", "startswith", "(", "'partial_link='", ")", ":", "return", "selector", ".", "split", "(", "'partial_link='", ")", "[", "1", "]", "elif", "selector", ".", "startswith", "(", "'partial_link_text='", ")", ":", "return", "selector", ".", "split", "(", "'partial_link_text='", ")", "[", "1", "]", "elif", "selector", ".", "startswith", "(", "'partial_text='", ")", ":", "return", "selector", ".", "split", "(", "'partial_text='", ")", "[", "1", "]", "return", "selector" ]

[ 77, 0 ]

[ 87, 19 ]

[ "def", "get_name_from_selector", "(", "selector", ")", ":", "if", "selector", ".", "startswith", "(", "'name='", ")", ":", "return", "selector", ".", "split", "(", "'name='", ")", "[", "1", "]", "return", "selector" ]

[ 90, 0 ]

[ 96, 19 ]

[ "def", "_get_unique_links", "(", "page_url", ",", "soup", ")", ":", "if", "not", "page_url", ".", "startswith", "(", "\"http://\"", ")", "and", "(", "not", "page_url", ".", "startswith", "(", "\"https://\"", ")", ")", ":", "return", "[", "]", "prefix", "=", "'http:'", "if", "page_url", ".", "startswith", "(", "'https:'", ")", ":", "prefix", "=", "'https:'", "simple_url", "=", "page_url", ".", "split", "(", "'://'", ")", "[", "1", "]", "base_url", "=", "simple_url", ".", "split", "(", "'/'", ")", "[", "0", "]", "full_base_url", "=", "prefix", "+", "\"//\"", "+", "base_url", "raw_links", "=", "[", "]", "raw_unique_links", "=", "[", "]", "# Get \"href\" from all \"a\" tags", "links", "=", "soup", ".", "find_all", "(", "'a'", ")", "for", "link", "in", "links", ":", "raw_links", ".", "append", "(", "link", ".", "get", "(", "'href'", ")", ")", "# Get \"src\" from all \"img\" tags", "img_links", "=", "soup", ".", "find_all", "(", "'img'", ")", "for", "img_link", "in", "img_links", ":", "raw_links", ".", "append", "(", "img_link", ".", "get", "(", "'src'", ")", ")", "# Get \"href\" from all \"link\" tags", "links", "=", "soup", ".", "find_all", "(", "'link'", ")", "for", "link", "in", "links", ":", "raw_links", ".", "append", "(", "link", ".", "get", "(", "'href'", ")", ")", "# Get \"src\" from all \"script\" tags", "img_links", "=", "soup", ".", "find_all", "(", "'script'", ")", "for", "img_link", "in", "img_links", ":", "raw_links", ".", "append", "(", "img_link", ".", "get", "(", "'src'", ")", ")", "for", "link", "in", "raw_links", ":", "if", "link", "not", "in", "raw_unique_links", ":", "raw_unique_links", ".", "append", "(", "link", ")", "unique_links", "=", "[", "]", "for", "link", "in", "raw_unique_links", ":", "if", "link", "and", "len", "(", "link", ")", ">", "1", ":", "if", "link", ".", "startswith", "(", "'//'", ")", ":", "link", "=", "prefix", "+", "link", "elif", "link", ".", "startswith", "(", "'/'", ")", ":", "link", "=", "full_base_url", "+", "link", "elif", "link", ".", "startswith", "(", "'./'", ")", ":", "link", "=", "full_base_url", "+", "link", "[", "1", ":", "]", "elif", "link", ".", "startswith", "(", "'#'", ")", ":", "link", "=", "full_base_url", "+", "link", "elif", "'//'", "not", "in", "link", ":", "link", "=", "full_base_url", "+", "\"/\"", "+", "link", "else", ":", "pass", "unique_links", ".", "append", "(", "link", ")", "return", "unique_links" ]

[ 116, 0 ]

[ 176, 23 ]

[ "def", "_get_link_status_code", "(", "link", ",", "allow_redirects", "=", "False", ",", "timeout", "=", "5", ")", ":", "status_code", "=", "None", "try", ":", "response", "=", "requests", ".", "get", "(", "link", ",", "allow_redirects", "=", "allow_redirects", ",", "timeout", "=", "timeout", ")", "status_code", "=", "response", ".", "status_code", "except", "Exception", ":", "status_code", "=", "404", "return", "status_code" ]

[ 179, 0 ]

[ 192, 22 ]

[ "def", "_print_unique_links_with_status_codes", "(", "page_url", ",", "soup", ")", ":", "links", "=", "_get_unique_links", "(", "page_url", ",", "soup", ")", "for", "link", "in", "links", ":", "status_code", "=", "_get_link_status_code", "(", "link", ")", "print", "(", "link", ",", "\" -> \"", ",", "status_code", ")" ]

[ 195, 0 ]

[ 205, 40 ]