Datasets:

---

blindsubmissions

/

GH_text2code

like 4

[ "def", "is_pointer", "(", "type_", ")", ":", "return", "does_match_definition", "(", "type_", ",", "cpptypes", ".", "pointer_t", ",", "(", "cpptypes", ".", "const_t", ",", "cpptypes", ".", "volatile_t", ")", ")", "or", "does_match_definition", "(", "type_", ",", "cpptypes", ".", "pointer_t", ",", "(", "cpptypes", ".", "volatile_t", ",", "cpptypes", ".", "const_t", ")", ")" ]

[ 229, 0 ]

[ 236, 73 ]

[ "def", "is_calldef_pointer", "(", "type_", ")", ":", "if", "not", "is_pointer", "(", "type_", ")", ":", "return", "False", "nake_type", "=", "remove_alias", "(", "type_", ")", "nake_type", "=", "remove_cv", "(", "nake_type", ")", "return", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "compound_t", ")", "and", "isinstance", "(", "nake_type", ".", "base", ",", "cpptypes", ".", "calldef_type_t", ")" ]

[ 239, 0 ]

[ 247, 63 ]

[ "def", "remove_pointer", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "not", "is_pointer", "(", "nake_type", ")", ":", "return", "type_", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "volatile_t", ")", "and", "isinstance", "(", "nake_type", ".", "base", ",", "cpptypes", ".", "pointer_t", ")", ":", "return", "cpptypes", ".", "volatile_t", "(", "nake_type", ".", "base", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "const_t", ")", "and", "isinstance", "(", "nake_type", ".", "base", ",", "cpptypes", ".", "pointer_t", ")", ":", "return", "cpptypes", ".", "const_t", "(", "nake_type", ".", "base", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "volatile_t", ")", "and", "isinstance", "(", "nake_type", ".", "base", ",", "cpptypes", ".", "const_t", ")", "and", "isinstance", "(", "nake_type", ".", "base", ".", "base", ",", "cpptypes", ".", "pointer_t", ")", ":", "return", "(", "cpptypes", ".", "volatile_t", "(", "cpptypes", ".", "const_t", "(", "nake_type", ".", "base", ".", "base", ".", "base", ")", ")", ")", "else", ":", "return", "nake_type", ".", "base" ]

[ 250, 0 ]

[ 271, 29 ]

[ "def", "is_reference", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "return", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "reference_t", ")" ]

[ 274, 0 ]

[ 277, 54 ]

[ "def", "is_array", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "nake_type", "=", "remove_reference", "(", "nake_type", ")", "nake_type", "=", "remove_cv", "(", "nake_type", ")", "return", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "array_t", ")" ]

[ 280, 0 ]

[ 285, 50 ]

[ "def", "array_size", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "nake_type", "=", "remove_reference", "(", "nake_type", ")", "nake_type", "=", "remove_cv", "(", "nake_type", ")", "assert", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "array_t", ")", "return", "nake_type", ".", "size" ]

[ 288, 0 ]

[ 294, 25 ]

[ "def", "array_item_type", "(", "type_", ")", ":", "if", "is_array", "(", "type_", ")", ":", "type_", "=", "remove_alias", "(", "type_", ")", "type_", "=", "remove_cv", "(", "type_", ")", "return", "type_", ".", "base", "elif", "is_pointer", "(", "type_", ")", ":", "return", "remove_pointer", "(", "type_", ")", "else", ":", "raise", "RuntimeError", "(", "\"array_item_type functions takes as argument array or pointer \"", "+", "\"types\"", ")" ]

[ 297, 0 ]

[ 308, 20 ]

[ "def", "remove_reference", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "not", "is_reference", "(", "nake_type", ")", ":", "return", "type_", "else", ":", "return", "nake_type", ".", "base" ]

[ 311, 0 ]

[ 320, 29 ]

[ "def", "is_const", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "const_t", ")", ":", "return", "True", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "volatile_t", ")", ":", "return", "is_const", "(", "nake_type", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "array_t", ")", ":", "return", "is_const", "(", "nake_type", ".", "base", ")", "return", "False" ]

[ 323, 0 ]

[ 332, 16 ]

[ "def", "remove_const", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "not", "is_const", "(", "nake_type", ")", ":", "return", "type_", "else", ":", "# Handling for const and volatile qualified types. There is a", "# difference in behavior between GCCXML and CastXML for cv-qual arrays.", "# GCCXML produces the following nesting of types:", "# -> volatile_t(const_t(array_t))", "# while CastXML produces the following nesting:", "# -> array_t(volatile_t(const_t))", "# For both cases, we must unwrap the types, remove const_t, and add", "# back the outer layers", "if", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "array_t", ")", ":", "is_v", "=", "is_volatile", "(", "nake_type", ")", "if", "is_v", ":", "result_type", "=", "nake_type", ".", "base", ".", "base", ".", "base", "else", ":", "result_type", "=", "nake_type", ".", "base", ".", "base", "if", "is_v", ":", "result_type", "=", "cpptypes", ".", "volatile_t", "(", "result_type", ")", "return", "cpptypes", ".", "array_t", "(", "result_type", ",", "nake_type", ".", "size", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "volatile_t", ")", ":", "return", "cpptypes", ".", "volatile_t", "(", "nake_type", ".", "base", ".", "base", ")", "return", "nake_type", ".", "base" ]

[ 335, 0 ]

[ 366, 29 ]

[ "def", "remove_declarated", "(", "type_", ")", ":", "type_", "=", "remove_alias", "(", "type_", ")", "if", "isinstance", "(", "type_", ",", "cpptypes", ".", "elaborated_t", ")", ":", "type_", "=", "type_", ".", "base", "if", "isinstance", "(", "type_", ",", "cpptypes", ".", "declarated_t", ")", ":", "type_", "=", "type_", ".", "declaration", "return", "type_" ]

[ 369, 0 ]

[ 380, 16 ]

[ "def", "is_same", "(", "type1", ",", "type2", ")", ":", "nake_type1", "=", "remove_declarated", "(", "type1", ")", "nake_type2", "=", "remove_declarated", "(", "type2", ")", "return", "nake_type1", "==", "nake_type2" ]

[ 383, 0 ]

[ 387, 35 ]

[ "def", "is_elaborated", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "elaborated_t", ")", ":", "return", "True", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "reference_t", ")", ":", "return", "is_elaborated", "(", "nake_type", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "pointer_t", ")", ":", "return", "is_elaborated", "(", "nake_type", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "volatile_t", ")", ":", "return", "is_elaborated", "(", "nake_type", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "const_t", ")", ":", "return", "is_elaborated", "(", "nake_type", ".", "base", ")", "return", "False" ]

[ 390, 0 ]

[ 403, 16 ]

[ "def", "remove_elaborated", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "not", "is_elaborated", "(", "nake_type", ")", ":", "return", "type_", "else", ":", "if", "isinstance", "(", "type_", ",", "cpptypes", ".", "elaborated_t", ")", ":", "type_", "=", "type_", ".", "base", "return", "type_" ]

[ 406, 0 ]

[ 418, 16 ]

[ "def", "is_volatile", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "volatile_t", ")", ":", "return", "True", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "const_t", ")", ":", "return", "is_volatile", "(", "nake_type", ".", "base", ")", "elif", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "array_t", ")", ":", "return", "is_volatile", "(", "nake_type", ".", "base", ")", "return", "False" ]

[ 421, 0 ]

[ 430, 16 ]

[ "def", "remove_volatile", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "not", "is_volatile", "(", "nake_type", ")", ":", "return", "type_", "else", ":", "if", "isinstance", "(", "nake_type", ",", "cpptypes", ".", "array_t", ")", ":", "is_c", "=", "is_const", "(", "nake_type", ")", "if", "is_c", ":", "base_type_", "=", "nake_type", ".", "base", ".", "base", ".", "base", "else", ":", "base_type_", "=", "nake_type", ".", "base", ".", "base", "result_type", "=", "base_type_", "if", "is_c", ":", "result_type", "=", "cpptypes", ".", "const_t", "(", "result_type", ")", "return", "cpptypes", ".", "array_t", "(", "result_type", ",", "nake_type", ".", "size", ")", "return", "nake_type", ".", "base" ]

[ 433, 0 ]

[ 452, 29 ]

[ "def", "remove_cv", "(", "type_", ")", ":", "nake_type", "=", "remove_alias", "(", "type_", ")", "if", "not", "is_const", "(", "nake_type", ")", "and", "not", "is_volatile", "(", "nake_type", ")", ":", "return", "type_", "result", "=", "nake_type", "if", "is_const", "(", "result", ")", ":", "result", "=", "remove_const", "(", "result", ")", "if", "is_volatile", "(", "result", ")", ":", "result", "=", "remove_volatile", "(", "result", ")", "if", "is_const", "(", "result", ")", ":", "result", "=", "remove_const", "(", "result", ")", "return", "result" ]

[ 455, 0 ]

[ 468, 17 ]

[ "def", "is_fundamental", "(", "type_", ")", ":", "return", "does_match_definition", "(", "type_", ",", "cpptypes", ".", "fundamental_t", ",", "(", "cpptypes", ".", "const_t", ",", "cpptypes", ".", "volatile_t", ")", ")", "or", "does_match_definition", "(", "type_", ",", "cpptypes", ".", "fundamental_t", ",", "(", "cpptypes", ".", "volatile_t", ",", "cpptypes", ".", "const_t", ")", ")" ]

[ 471, 0 ]

[ 480, 52 ]

[ "def", "is_std_string", "(", "type_", ")", ":", "if", "utils", ".", "is_str", "(", "type_", ")", ":", "return", "type_", "in", "string_equivalences", "else", ":", "type_", "=", "remove_alias", "(", "type_", ")", "type_", "=", "remove_reference", "(", "type_", ")", "type_", "=", "remove_cv", "(", "type_", ")", "return", "type_", ".", "decl_string", "in", "string_equivalences" ]

[ 512, 0 ]

[ 524, 55 ]

[ "def", "is_std_wstring", "(", "type_", ")", ":", "if", "utils", ".", "is_str", "(", "type_", ")", ":", "return", "type_", "in", "wstring_equivalences", "else", ":", "type_", "=", "remove_alias", "(", "type_", ")", "type_", "=", "remove_reference", "(", "type_", ")", "type_", "=", "remove_cv", "(", "type_", ")", "return", "type_", ".", "decl_string", "in", "wstring_equivalences" ]

[ 527, 0 ]

[ 539, 56 ]

[ "def", "is_std_ostream", "(", "type_", ")", ":", "if", "utils", ".", "is_str", "(", "type_", ")", ":", "return", "type_", "in", "ostream_equivalences", "else", ":", "type_", "=", "remove_alias", "(", "type_", ")", "type_", "=", "remove_reference", "(", "type_", ")", "type_", "=", "remove_cv", "(", "type_", ")", "return", "type_", ".", "decl_string", "in", "ostream_equivalences" ]

[ 542, 0 ]

[ 554, 56 ]

[ "def", "is_std_wostream", "(", "type_", ")", ":", "if", "utils", ".", "is_str", "(", "type_", ")", ":", "return", "type_", "in", "wostream_equivalences", "else", ":", "type_", "=", "remove_alias", "(", "type_", ")", "type_", "=", "remove_reference", "(", "type_", ")", "type_", "=", "remove_cv", "(", "type_", ")", "return", "type_", ".", "decl_string", "in", "wostream_equivalences" ]

[ 557, 0 ]

[ 569, 57 ]

[ "def", "_lex_fortran", "(", "self", ",", "match", ",", "ctx", "=", "None", ")", ":", "lexer", "=", "FortranLexer", "(", ")", "text", "=", "match", ".", "group", "(", "0", ")", "+", "\"\\n\"", "for", "index", ",", "token", ",", "value", "in", "lexer", ".", "get_tokens_unprocessed", "(", "text", ")", ":", "value", "=", "value", ".", "replace", "(", "'\\n'", ",", "''", ")", "if", "value", "!=", "''", ":", "yield", "index", ",", "token", ",", "value" ]

[ 176, 4 ]

[ 183, 41 ]

[ "def", "registo", "(", "request", ")", ":", "if", "request", ".", "method", "==", "'POST'", ":", "form", "=", "UtilizadorRegistoForm", "(", "request", ".", "POST", ")", "if", "form", ".", "is_valid", "(", ")", ":", "form", ".", "save", "(", ")", "username", "=", "form", ".", "cleaned_data", ".", "get", "(", "'username'", ")", "messages", ".", "success", "(", "request", ",", "f'A sua conta foi criada com sucesso. Pode começar a utilizar o mySchool!')", "\r", "return", "redirect", "(", "'app-login'", ")", "else", ":", "form", "=", "UtilizadorRegistoForm", "(", ")", "return", "render", "(", "request", ",", "'utilizadores/registo.html'", ",", "{", "'form'", ":", "form", "}", ")" ]

[ 10, 0 ]

[ 26, 71 ]

[ "def", "perfil", "(", "request", ")", ":", "if", "request", ".", "method", "==", "'POST'", ":", "u_form", "=", "UtilizadorUpdateForm", "(", "request", ".", "POST", ",", "instance", "=", "request", ".", "user", ")", "if", "u_form", ".", "is_valid", "(", ")", ":", "u_form", ".", "save", "(", ")", "messages", ".", "success", "(", "request", ",", "f'A sua conta foi atualizada!'", ")", "return", "redirect", "(", "'app-perfil'", ")", "else", ":", "u_form", "=", "UtilizadorUpdateForm", "(", "instance", "=", "request", ".", "user", ")", "context", "=", "{", "'u_form'", ":", "u_form", ",", "}", "return", "render", "(", "request", ",", "'utilizadores/perfil.html'", ",", "context", ")" ]

[ 30, 0 ]

[ 50, 63 ]

[ "def", "analyse_text", "(", "text", ")", ":", "if", "re", ".", "search", "(", "r'/\\*\\**\\s*rexx'", ",", "text", ",", "re", ".", "IGNORECASE", ")", ":", "# Header matches MVS Rexx requirements, this is certainly a Rexx", "# script.", "return", "1.0", "elif", "text", ".", "startswith", "(", "'/*'", ")", ":", "# Header matches general Rexx requirements; the source code might", "# still be any language using C comments such as C++, C# or Java.", "lowerText", "=", "text", ".", "lower", "(", ")", "result", "=", "sum", "(", "weight", "for", "(", "pattern", ",", "weight", ")", "in", "RexxLexer", ".", "PATTERNS_AND_WEIGHTS", "if", "pattern", ".", "search", "(", "lowerText", ")", ")", "+", "0.01", "return", "min", "(", "result", ",", "1.0", ")" ]

[ 782, 4 ]

[ 798, 35 ]

[ "def", "analyse_text", "(", "text", ")", ":", "result", "=", "0.0", "lines", "=", "text", ".", "split", "(", "'\\n'", ")", "hasEndProc", "=", "False", "hasHeaderComment", "=", "False", "hasFile", "=", "False", "hasJob", "=", "False", "hasProc", "=", "False", "hasParm", "=", "False", "hasReport", "=", "False", "def", "isCommentLine", "(", "line", ")", ":", "return", "EasytrieveLexer", ".", "_COMMENT_LINE_REGEX", ".", "match", "(", "lines", "[", "0", "]", ")", "is", "not", "None", "def", "isEmptyLine", "(", "line", ")", ":", "return", "not", "bool", "(", "line", ".", "strip", "(", ")", ")", "# Remove possible empty lines and header comments.", "while", "lines", "and", "(", "isEmptyLine", "(", "lines", "[", "0", "]", ")", "or", "isCommentLine", "(", "lines", "[", "0", "]", ")", ")", ":", "if", "not", "isEmptyLine", "(", "lines", "[", "0", "]", ")", ":", "hasHeaderComment", "=", "True", "del", "lines", "[", "0", "]", "if", "EasytrieveLexer", ".", "_MACRO_HEADER_REGEX", ".", "match", "(", "lines", "[", "0", "]", ")", ":", "# Looks like an Easytrieve macro.", "result", "=", "0.4", "if", "hasHeaderComment", ":", "result", "+=", "0.4", "else", ":", "# Scan the source for lines starting with indicators.", "for", "line", "in", "lines", ":", "words", "=", "line", ".", "split", "(", ")", "if", "(", "len", "(", "words", ")", ">=", "2", ")", ":", "firstWord", "=", "words", "[", "0", "]", "if", "not", "hasReport", ":", "if", "not", "hasJob", ":", "if", "not", "hasFile", ":", "if", "not", "hasParm", ":", "if", "firstWord", "==", "'PARM'", ":", "hasParm", "=", "True", "if", "firstWord", "==", "'FILE'", ":", "hasFile", "=", "True", "if", "firstWord", "==", "'JOB'", ":", "hasJob", "=", "True", "elif", "firstWord", "==", "'PROC'", ":", "hasProc", "=", "True", "elif", "firstWord", "==", "'END-PROC'", ":", "hasEndProc", "=", "True", "elif", "firstWord", "==", "'REPORT'", ":", "hasReport", "=", "True", "# Weight the findings.", "if", "hasJob", "and", "(", "hasProc", "==", "hasEndProc", ")", ":", "if", "hasHeaderComment", ":", "result", "+=", "0.1", "if", "hasParm", ":", "if", "hasProc", ":", "# Found PARM, JOB and PROC/END-PROC:", "# pretty sure this is Easytrieve.", "result", "+=", "0.8", "else", ":", "# Found PARAM and JOB: probably this is Easytrieve", "result", "+=", "0.5", "else", ":", "# Found JOB and possibly other keywords: might be Easytrieve", "result", "+=", "0.11", "if", "hasParm", ":", "# Note: PARAM is not a proper English word, so this is", "# regarded a much better indicator for Easytrieve than", "# the other words.", "result", "+=", "0.2", "if", "hasFile", ":", "result", "+=", "0.01", "if", "hasReport", ":", "result", "+=", "0.01", "assert", "0.0", "<=", "result", "<=", "1.0", "return", "result" ]

[ 1040, 4 ]

[ 1119, 21 ]

[ "def", "analyse_text", "(", "text", ")", ":", "result", "=", "0.0", "lines", "=", "text", ".", "split", "(", "'\\n'", ")", "if", "len", "(", "lines", ")", ">", "0", ":", "if", "JclLexer", ".", "_JOB_HEADER_PATTERN", ".", "match", "(", "lines", "[", "0", "]", ")", ":", "result", "=", "1.0", "assert", "0.0", "<=", "result", "<=", "1.0", "return", "result" ]

[ 1192, 4 ]

[ 1202, 21 ]

[ "def", "_get_evaluation_dependencies", "(", "cls", ",", "metric", ":", "MetricConfiguration", ",", "configuration", ":", "Optional", "[", "ExpectationConfiguration", "]", "=", "None", ",", "execution_engine", ":", "Optional", "[", "ExecutionEngine", "]", "=", "None", ",", "runtime_configuration", ":", "Optional", "[", "Dict", "]", "=", "None", ",", ")", ":", "dependencies", ":", "dict", "=", "super", "(", ")", ".", "_get_evaluation_dependencies", "(", "metric", "=", "metric", ",", "configuration", "=", "configuration", ",", "execution_engine", "=", "execution_engine", ",", "runtime_configuration", "=", "runtime_configuration", ",", ")", "if", "isinstance", "(", "execution_engine", ",", "(", "SqlAlchemyExecutionEngine", ",", "SparkDFExecutionEngine", ")", ")", ":", "dependencies", "[", "\"column.value_counts\"", "]", "=", "MetricConfiguration", "(", "metric_name", "=", "\"column.value_counts\"", ",", "metric_domain_kwargs", "=", "metric", ".", "metric_domain_kwargs", ",", "metric_value_kwargs", "=", "{", "\"sort\"", ":", "\"value\"", ",", "\"collate\"", ":", "None", ",", "}", ",", ")", "return", "dependencies" ]

[ 51, 4 ]

[ 79, 27 ]

[ "def", "_get_evaluation_dependencies", "(", "cls", ",", "metric", ":", "MetricConfiguration", ",", "configuration", ":", "Optional", "[", "ExpectationConfiguration", "]", "=", "None", ",", "execution_engine", ":", "Optional", "[", "ExecutionEngine", "]", "=", "None", ",", "runtime_configuration", ":", "Optional", "[", "Dict", "]", "=", "None", ",", ")", ":", "dependencies", ":", "dict", "=", "super", "(", ")", ".", "_get_evaluation_dependencies", "(", "metric", "=", "metric", ",", "configuration", "=", "configuration", ",", "execution_engine", "=", "execution_engine", ",", "runtime_configuration", "=", "runtime_configuration", ",", ")", "if", "isinstance", "(", "execution_engine", ",", "(", "SqlAlchemyExecutionEngine", ",", "SparkDFExecutionEngine", ")", ")", ":", "dependencies", "[", "\"column.value_counts\"", "]", "=", "MetricConfiguration", "(", "metric_name", "=", "\"column.value_counts\"", ",", "metric_domain_kwargs", "=", "metric", ".", "metric_domain_kwargs", ",", "metric_value_kwargs", "=", "{", "\"sort\"", ":", "\"value\"", ",", "\"collate\"", ":", "None", ",", "}", ",", ")", "return", "dependencies" ]

[ 114, 4 ]

[ 142, 27 ]

[ "def", "validate_configuration", "(", "self", ",", "configuration", ":", "Optional", "[", "ExpectationConfiguration", "]", ")", ":", "super", "(", ")", ".", "validate_configuration", "(", "configuration", ")", "self", ".", "validate_metric_value_between_configuration", "(", "configuration", "=", "configuration", ")" ]

[ 104, 4 ]

[ 116, 85 ]

[ "def", "_f", "(", "x", ",", "with_defaults", ")", ":", "return", "x", ".", "build_decl_string", "(", "with_defaults", ")" ]

[ 467, 0 ]

[ 473, 45 ]

[ "def", "clone", "(", "self", ")", ":", "answer", "=", "self", ".", "_clone_impl", "(", ")", "return", "answer" ]

[ 61, 4 ]

[ 64, 21 ]

[ "def", "base", "(", "self", ")", ":", "return", "self", ".", "_base" ]

[ 488, 4 ]

[ 490, 25 ]

[ "def", "size", "(", "self", ")", ":", "return", "self", ".", "_size" ]

[ 616, 4 ]

[ 618, 25 ]

[ "def", "size", "(", "self", ",", "size", ")", ":", "self", ".", "cache", ".", "reset", "(", ")", "self", ".", "_size", "=", "size" ]

[ 621, 4 ]

[ 624, 25 ]

[ "def", "return_type", "(", "self", ")", ":", "return", "self", ".", "_return_type" ]

[ 662, 4 ]

[ 664, 32 ]

[ "def", "arguments_types", "(", "self", ")", ":", "return", "self", ".", "_arguments_types" ]

[ 671, 4 ]

[ 673, 36 ]

[ "def", "create_decl_string", "(", "return_type", ",", "arguments_types", ",", "with_defaults", "=", "True", ")", ":", "return", "free_function_type_t", ".", "NAME_TEMPLATE", "%", "{", "'return_type'", ":", "return_type", ".", "build_decl_string", "(", "with_defaults", ")", ",", "'arguments'", ":", "','", ".", "join", "(", "[", "_f", "(", "x", ",", "with_defaults", ")", "for", "x", "in", "arguments_types", "]", ")", "}" ]

[ 697, 4 ]

[ 712, 65 ]

[ "def", "create_typedef", "(", "self", ",", "typedef_name", ",", "unused", "=", "None", ",", "with_defaults", "=", "True", ")", ":", "return", "free_function_type_t", ".", "TYPEDEF_NAME_TEMPLATE", "%", "{", "'typedef_name'", ":", "typedef_name", ",", "'return_type'", ":", "self", ".", "return_type", ".", "build_decl_string", "(", "with_defaults", ")", ",", "'arguments'", ":", "','", ".", "join", "(", "[", "_f", "(", "x", ",", "with_defaults", ")", "for", "x", "in", "self", ".", "arguments_types", "]", ")", "}" ]

[ 729, 4 ]

[ 740, 70 ]

[ "def", "has_const", "(", "self", ")", ":", "return", "self", ".", "_has_const" ]

[ 764, 4 ]

[ 766, 30 ]

[ "def", "class_inst", "(", "self", ")", ":", "return", "self", ".", "_class_inst" ]

[ 773, 4 ]

[ 775, 31 ]

[ "def", "create_typedef", "(", "self", ",", "typedef_name", ",", "class_alias", "=", "None", ",", "with_defaults", "=", "True", ")", ":", "has_const_str", "=", "''", "if", "self", ".", "has_const", ":", "has_const_str", "=", "'const'", "if", "None", "is", "class_alias", ":", "if", "with_defaults", ":", "class_alias", "=", "self", ".", "class_inst", ".", "decl_string", "else", ":", "class_alias", "=", "self", ".", "class_inst", ".", "partial_decl_string", "return", "member_function_type_t", ".", "TYPEDEF_NAME_TEMPLATE", "%", "{", "'typedef_name'", ":", "typedef_name", ",", "'return_type'", ":", "self", ".", "return_type", ".", "build_decl_string", "(", "with_defaults", ")", ",", "'class'", ":", "class_alias", ",", "'arguments'", ":", "','", ".", "join", "(", "[", "_f", "(", "x", ",", "with_defaults", ")", "for", "x", "in", "self", ".", "arguments_types", "]", ")", ",", "'has_const'", ":", "has_const_str", "}" ]

[ 782, 4 ]

[ 807, 39 ]

[ "def", "variable_type", "(", "self", ")", ":", "return", "self", ".", "_mv_type" ]

[ 859, 4 ]

[ 861, 28 ]

[ "def", "declaration", "(", "self", ")", ":", "return", "self", ".", "_declaration" ]

[ 894, 4 ]

[ 896, 32 ]

[ "def", "factorial", "(", "n", ")", ":", "import", "math", "if", "not", "n", ">=", "0", ":", "raise", "ValueError", "(", "\"n must be >= 0\"", ")", "if", "math", ".", "floor", "(", "n", ")", "!=", "n", ":", "raise", "ValueError", "(", "\"n must be exact integer\"", ")", "if", "n", "+", "1", "==", "n", ":", "# catch a value like 1e300", "raise", "OverflowError", "(", "\"n too large\"", ")", "result", "=", "1", "factor", "=", "2", "while", "factor", "<=", "n", ":", "result", "*=", "factor", "factor", "+=", "1", "return", "result" ]

[ 5, 0 ]

[ 43, 17 ]

[ "def", "_get_column_list_from_evrs", "(", "cls", ",", "evrs", ")", ":", "evrs_", "=", "evrs", "if", "isinstance", "(", "evrs", ",", "list", ")", "else", "evrs", ".", "results", "expect_table_columns_to_match_ordered_list_evr", "=", "cls", ".", "_find_evr_by_type", "(", "evrs_", ",", "\"expect_table_columns_to_match_ordered_list\"", ")", "# Group EVRs by column", "sorted_columns", "=", "sorted", "(", "list", "(", "{", "evr", ".", "expectation_config", ".", "kwargs", "[", "\"column\"", "]", "for", "evr", "in", "evrs_", "if", "\"column\"", "in", "evr", ".", "expectation_config", ".", "kwargs", "}", ")", ")", "if", "expect_table_columns_to_match_ordered_list_evr", ":", "ordered_columns", "=", "expect_table_columns_to_match_ordered_list_evr", ".", "result", "[", "\"observed_value\"", "]", "else", ":", "ordered_columns", "=", "[", "]", "# only return ordered columns from expect_table_columns_to_match_ordered_list evr if they match set of column", "# names from entire evr", "if", "set", "(", "sorted_columns", ")", "==", "set", "(", "ordered_columns", ")", ":", "return", "ordered_columns", "else", ":", "return", "sorted_columns" ]

[ 61, 4 ]

[ 100, 33 ]

[ "def", "_group_and_order_expectations_by_column", "(", "cls", ",", "expectations", ")", ":", "expectations_by_column", "=", "{", "}", "ordered_columns", "=", "[", "]", "for", "expectation", "in", "expectations", ".", "expectations", ":", "if", "\"column\"", "in", "expectation", ".", "kwargs", ":", "column", "=", "expectation", ".", "kwargs", "[", "\"column\"", "]", "else", ":", "column", "=", "\"_nocolumn\"", "if", "column", "not", "in", "expectations_by_column", ":", "expectations_by_column", "[", "column", "]", "=", "[", "]", "expectations_by_column", "[", "column", "]", ".", "append", "(", "expectation", ")", "# if possible, get the order of columns from expect_table_columns_to_match_ordered_list", "if", "(", "expectation", ".", "expectation_type", "==", "\"expect_table_columns_to_match_ordered_list\"", ")", ":", "exp_column_list", "=", "expectation", ".", "kwargs", "[", "\"column_list\"", "]", "if", "exp_column_list", "and", "len", "(", "exp_column_list", ")", ">", "0", ":", "ordered_columns", "=", "exp_column_list", "# Group items by column", "sorted_columns", "=", "sorted", "(", "list", "(", "expectations_by_column", ".", "keys", "(", ")", ")", ")", "# only return ordered columns from expect_table_columns_to_match_ordered_list evr if they match set of column", "# names from entire evr, else use alphabetic sort", "if", "set", "(", "sorted_columns", ")", "==", "set", "(", "ordered_columns", ")", ":", "return", "expectations_by_column", ",", "ordered_columns", "else", ":", "return", "expectations_by_column", ",", "sorted_columns" ]

[ 120, 4 ]

[ 151, 57 ]

[ "def", "predict_best", "(", "self", ")", ":", "self", ".", "_get_counterfactuals", "(", ")", "self", ".", "_get_counterfactual_values", "(", ")", "return", "self", ".", "best_treatment" ]

[ 58, 4 ]

[ 65, 34 ]

[ "def", "predict_counterfactuals", "(", "self", ")", ":", "self", ".", "_get_counterfactuals", "(", ")", "self", ".", "_get_counterfactual_values", "(", ")", "return", "self", ".", "expected_values" ]

[ 67, 4 ]

[ 73, 35 ]

[ "def", "_get_counterfactuals", "(", "self", ")", ":", "conditions", "=", "self", ".", "treatment_names", ".", "copy", "(", ")", "conditions", ".", "insert", "(", "0", ",", "self", ".", "control_name", ")", "cates_with_control", "=", "np", ".", "c_", "[", "np", ".", "zeros", "(", "self", ".", "cate", ".", "shape", "[", "0", "]", ")", ",", "self", ".", "cate", "]", "cates_flat", "=", "cates_with_control", ".", "flatten", "(", ")", "cates_filt", "=", "[", "actual_group", "==", "poss_group", "for", "actual_group", "in", "self", ".", "treatment", "for", "poss_group", "in", "conditions", "]", "control_outcome", "=", "self", ".", "y_proba", "-", "cates_flat", "[", "cates_filt", "]", "self", ".", "counterfactuals", "=", "cates_with_control", "+", "control_outcome", "[", ":", ",", "None", "]" ]

[ 75, 4 ]

[ 90, 76 ]

[ "def", "_get_counterfactual_values", "(", "self", ")", ":", "self", ".", "expected_values", "=", "(", "(", "self", ".", "value", "[", ":", ",", "None", "]", "-", "self", ".", "conversion_cost", ")", "*", "self", ".", "counterfactuals", "-", "self", ".", "impression_cost", ")", "self", ".", "best_treatment", "=", "np", ".", "argmax", "(", "self", ".", "expected_values", ",", "axis", "=", "1", ")" ]

[ 92, 4 ]

[ 102, 69 ]

[ "def", "__init__", "(", "self", ")", ":", "object", ".", "__init__", "(", "self", ")" ]

[ 30, 4 ]

[ 32, 29 ]

[ "def", "create_member_function", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "member_function_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 34, 4 ]

[ 37, 56 ]

[ "def", "create_constructor", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "constructor_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 39, 4 ]

[ 41, 52 ]

[ "def", "create_destructor", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "destructor_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 43, 4 ]

[ 45, 51 ]

[ "def", "create_member_operator", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "member_operator_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 47, 4 ]

[ 50, 56 ]

[ "def", "create_casting_operator", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "casting_operator_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 52, 4 ]

[ 55, 57 ]

[ "def", "create_free_function", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "free_function_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 57, 4 ]

[ 60, 54 ]

[ "def", "create_free_operator", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "free_operator_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 62, 4 ]

[ 65, 54 ]

[ "def", "create_class_declaration", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "class_declaration_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 67, 4 ]

[ 69, 58 ]

[ "def", "create_class", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "class_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 71, 4 ]

[ 74, 46 ]

[ "def", "create_enumeration", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "enumeration_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 76, 4 ]

[ 78, 52 ]

[ "def", "create_namespace", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "namespace_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 80, 4 ]

[ 82, 50 ]

[ "def", "create_typedef", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "typedef_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 84, 4 ]

[ 86, 48 ]

[ "def", "create_variable", "(", "self", ",", "*", "arguments", ",", "*", "*", "keywords", ")", ":", "return", "variable_t", "(", "*", "arguments", ",", "*", "*", "keywords", ")" ]

[ 88, 4 ]

[ 90, 49 ]

[ "def", "bobby_columnar_table_multi_batch", "(", ")", ":", "verbose_profiler_config_file_path", ":", "str", "=", "file_relative_path", "(", "__file__", ",", "\"bobby_user_workflow_verbose_profiler_config.yml\"", ")", "verbose_profiler_config", ":", "str", "with", "open", "(", "verbose_profiler_config_file_path", ")", "as", "f", ":", "verbose_profiler_config", "=", "f", ".", "read", "(", ")", "my_row_count_range_rule_expectation_configurations_oneshot_sampling_method", ":", "List", "[", "ExpectationConfiguration", "]", "=", "[", "ExpectationConfiguration", "(", "*", "*", "{", "\"kwargs\"", ":", "{", "\"min_value\"", ":", "7505", ",", "\"max_value\"", ":", "8495", "}", ",", "\"expectation_type\"", ":", "\"expect_table_row_count_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"table.row_count\"", ",", "\"domain_kwargs\"", ":", "{", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", ",", "}", ",", "}", ",", ")", ",", "]", "my_column_ranges_rule_expectation_configurations_oneshot_sampling_method", ":", "List", "[", "ExpectationConfiguration", "]", "=", "[", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"VendorID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"VendorID\"", ",", "\"min_value\"", ":", "1", ",", "\"max_value\"", ":", "1", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"VendorID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"VendorID\"", ",", "\"min_value\"", ":", "4", ",", "\"max_value\"", ":", "4", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"passenger_count\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"passenger_count\"", ",", "\"min_value\"", ":", "0", ",", "\"max_value\"", ":", "1", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"passenger_count\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"passenger_count\"", ",", "\"min_value\"", ":", "6", ",", "\"max_value\"", ":", "6", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"trip_distance\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"trip_distance\"", ",", "\"min_value\"", ":", "0.0", ",", "\"max_value\"", ":", "0.0", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"trip_distance\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"trip_distance\"", ",", "\"min_value\"", ":", "37.62", ",", "\"max_value\"", ":", "57.85", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"RatecodeID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"RatecodeID\"", ",", "\"min_value\"", ":", "1", ",", "\"max_value\"", ":", "1", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"RatecodeID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"RatecodeID\"", ",", "\"min_value\"", ":", "5", ",", "\"max_value\"", ":", "6", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"PULocationID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"PULocationID\"", ",", "\"min_value\"", ":", "1", ",", "\"max_value\"", ":", "1", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"PULocationID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"PULocationID\"", ",", "\"min_value\"", ":", "265", ",", "\"max_value\"", ":", "265", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"DOLocationID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"DOLocationID\"", ",", "\"min_value\"", ":", "1", ",", "\"max_value\"", ":", "1", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"DOLocationID\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"DOLocationID\"", ",", "\"min_value\"", ":", "265", ",", "\"max_value\"", ":", "265", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"payment_type\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"payment_type\"", ",", "\"min_value\"", ":", "1", ",", "\"max_value\"", ":", "1", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"payment_type\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"payment_type\"", ",", "\"min_value\"", ":", "4", ",", "\"max_value\"", ":", "4", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"fare_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"fare_amount\"", ",", "\"min_value\"", ":", "-", "51.84", ",", "\"max_value\"", ":", "-", "21.16", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"fare_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"fare_amount\"", ",", "\"min_value\"", ":", "228.94", ",", "\"max_value\"", ":", "2990.05", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"extra\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"extra\"", ",", "\"min_value\"", ":", "-", "36.53", ",", "\"max_value\"", ":", "-", "1.18", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"extra\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"extra\"", ",", "\"min_value\"", ":", "4.51", ",", "\"max_value\"", ":", "6.99", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"mta_tax\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"mta_tax\"", ",", "\"min_value\"", ":", "-", "0.5", ",", "\"max_value\"", ":", "-", "0.5", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"mta_tax\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"mta_tax\"", ",", "\"min_value\"", ":", "0.69", ",", "\"max_value\"", ":", "37.32", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"tip_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"tip_amount\"", ",", "\"min_value\"", ":", "0.0", ",", "\"max_value\"", ":", "0.0", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"tip_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"tip_amount\"", ",", "\"min_value\"", ":", "46.84", ",", "\"max_value\"", ":", "74.86", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"tolls_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"tolls_amount\"", ",", "\"min_value\"", ":", "0.0", ",", "\"max_value\"", ":", "0.0", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"tolls_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"tolls_amount\"", ",", "\"min_value\"", ":", "26.4", ",", "\"max_value\"", ":", "497.67", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"improvement_surcharge\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"improvement_surcharge\"", ",", "\"min_value\"", ":", "-", "0.3", ",", "\"max_value\"", ":", "-", "0.3", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"improvement_surcharge\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"improvement_surcharge\"", ",", "\"min_value\"", ":", "0.3", ",", "\"max_value\"", ":", "0.3", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"total_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"total_amount\"", ",", "\"min_value\"", ":", "-", "52.66", ",", "\"max_value\"", ":", "-", "24.44", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"total_amount\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"total_amount\"", ",", "\"min_value\"", ":", "550.18", ",", "\"max_value\"", ":", "2992.47", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_min_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.min\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"congestion_surcharge\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"congestion_surcharge\"", ",", "\"min_value\"", ":", "-", "2.49", ",", "\"max_value\"", ":", "-", "0.01", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "ExpectationConfiguration", "(", "*", "*", "{", "\"expectation_type\"", ":", "\"expect_column_max_to_be_between\"", ",", "\"meta\"", ":", "{", "\"profiler_details\"", ":", "{", "\"metric_configuration\"", ":", "{", "\"metric_name\"", ":", "\"column.max\"", ",", "\"domain_kwargs\"", ":", "{", "\"column\"", ":", "\"congestion_surcharge\"", "}", ",", "}", ",", "\"num_batches\"", ":", "2", ",", "}", "}", ",", "\"kwargs\"", ":", "{", "\"column\"", ":", "\"congestion_surcharge\"", ",", "\"min_value\"", ":", "0.01", ",", "\"max_value\"", ":", "2.49", ",", "\"mostly\"", ":", "1.0", ",", "}", ",", "}", ",", ")", ",", "]", "expectation_configurations", ":", "List", "[", "ExpectationConfiguration", "]", "=", "[", "]", "expectation_configurations", ".", "extend", "(", "my_row_count_range_rule_expectation_configurations_oneshot_sampling_method", ")", "expectation_configurations", ".", "extend", "(", "my_column_ranges_rule_expectation_configurations_oneshot_sampling_method", ")", "expectation_suite_name_oneshot_sampling_method", ":", "str", "=", "(", "\"bobby_columnar_table_multi_batch_oneshot_sampling_method\"", ")", "expected_expectation_suite_oneshot_sampling_method", ":", "ExpectationSuite", "=", "(", "ExpectationSuite", "(", "expectation_suite_name", "=", "expectation_suite_name_oneshot_sampling_method", ")", ")", "expectation_configuration", ":", "ExpectationConfiguration", "for", "expectation_configuration", "in", "expectation_configurations", ":", "expected_expectation_suite_oneshot_sampling_method", ".", "add_expectation", "(", "expectation_configuration", ")", "yaml", "=", "YAML", "(", ")", "profiler_config", ":", "dict", "=", "yaml", ".", "load", "(", "verbose_profiler_config", ")", "expected_expectation_suite_oneshot_sampling_method", ".", "add_citation", "(", "comment", "=", "\"Suite created by Rule-Based Profiler with the configuration included.\"", ",", "profiler_config", "=", "profiler_config", ",", ")", "return", "{", "\"profiler_config\"", ":", "verbose_profiler_config", ",", "\"test_configuration_oneshot_sampling_method\"", ":", "{", "\"expectation_suite_name\"", ":", "expectation_suite_name_oneshot_sampling_method", ",", "\"expected_expectation_suite\"", ":", "expected_expectation_suite_oneshot_sampling_method", ",", "}", ",", "}" ]

[ 14, 0 ]

[ 687, 5 ]

[ "def", "__init__", "(", "self", ",", "neurons_per_layer", "=", "200", ",", "targeted_reg", "=", "True", ",", "ratio", "=", "1.", ",", "val_split", "=", "0.2", ",", "batch_size", "=", "64", ",", "epochs", "=", "30", ",", "learning_rate", "=", "1e-3", ",", "reg_l2", "=", "0.01", ",", "loss_func", "=", "dragonnet_loss_binarycross", ",", "verbose", "=", "True", ")", ":", "self", ".", "neurons_per_layer", "=", "neurons_per_layer", "self", ".", "targeted_reg", "=", "targeted_reg", "self", ".", "ratio", "=", "ratio", "self", ".", "val_split", "=", "val_split", "self", ".", "batch_size", "=", "batch_size", "self", ".", "epochs", "=", "epochs", "self", ".", "learning_rate", "=", "learning_rate", "self", ".", "loss_func", "=", "loss_func", "self", ".", "reg_l2", "=", "reg_l2", "self", ".", "verbose", "=", "verbose" ]

[ 31, 4 ]

[ 46, 30 ]

[ "def", "make_dragonnet", "(", "self", ",", "input_dim", ")", ":", "inputs", "=", "Input", "(", "shape", "=", "(", "input_dim", ",", ")", ",", "name", "=", "'input'", ")", "# representation", "x", "=", "Dense", "(", "units", "=", "self", ".", "neurons_per_layer", ",", "activation", "=", "'elu'", ",", "kernel_initializer", "=", "'RandomNormal'", ")", "(", "inputs", ")", "x", "=", "Dense", "(", "units", "=", "self", ".", "neurons_per_layer", ",", "activation", "=", "'elu'", ",", "kernel_initializer", "=", "'RandomNormal'", ")", "(", "x", ")", "x", "=", "Dense", "(", "units", "=", "self", ".", "neurons_per_layer", ",", "activation", "=", "'elu'", ",", "kernel_initializer", "=", "'RandomNormal'", ")", "(", "x", ")", "t_predictions", "=", "Dense", "(", "units", "=", "1", ",", "activation", "=", "'sigmoid'", ")", "(", "x", ")", "# HYPOTHESIS", "y0_hidden", "=", "Dense", "(", "units", "=", "int", "(", "self", ".", "neurons_per_layer", "/", "2", ")", ",", "activation", "=", "'elu'", ",", "kernel_regularizer", "=", "l2", "(", "self", ".", "reg_l2", ")", ")", "(", "x", ")", "y1_hidden", "=", "Dense", "(", "units", "=", "int", "(", "self", ".", "neurons_per_layer", "/", "2", ")", ",", "activation", "=", "'elu'", ",", "kernel_regularizer", "=", "l2", "(", "self", ".", "reg_l2", ")", ")", "(", "x", ")", "# second layer", "y0_hidden", "=", "Dense", "(", "units", "=", "int", "(", "self", ".", "neurons_per_layer", "/", "2", ")", ",", "activation", "=", "'elu'", ",", "kernel_regularizer", "=", "l2", "(", "self", ".", "reg_l2", ")", ")", "(", "y0_hidden", ")", "y1_hidden", "=", "Dense", "(", "units", "=", "int", "(", "self", ".", "neurons_per_layer", "/", "2", ")", ",", "activation", "=", "'elu'", ",", "kernel_regularizer", "=", "l2", "(", "self", ".", "reg_l2", ")", ")", "(", "y1_hidden", ")", "# third", "y0_predictions", "=", "Dense", "(", "units", "=", "1", ",", "activation", "=", "None", ",", "kernel_regularizer", "=", "l2", "(", "self", ".", "reg_l2", ")", ",", "name", "=", "'y0_predictions'", ")", "(", "y0_hidden", ")", "y1_predictions", "=", "Dense", "(", "units", "=", "1", ",", "activation", "=", "None", ",", "kernel_regularizer", "=", "l2", "(", "self", ".", "reg_l2", ")", ",", "name", "=", "'y1_predictions'", ")", "(", "y1_hidden", ")", "dl", "=", "EpsilonLayer", "(", ")", "epsilons", "=", "dl", "(", "t_predictions", ",", "name", "=", "'epsilon'", ")", "concat_pred", "=", "Concatenate", "(", "1", ")", "(", "[", "y0_predictions", ",", "y1_predictions", ",", "t_predictions", ",", "epsilons", "]", ")", "model", "=", "Model", "(", "inputs", "=", "inputs", ",", "outputs", "=", "concat_pred", ")", "return", "model" ]

[ 48, 4 ]

[ 97, 20 ]

[ "def", "fit", "(", "self", ",", "X", ",", "treatment", ",", "y", ",", "p", "=", "None", ")", ":", "X", ",", "treatment", ",", "y", "=", "convert_pd_to_np", "(", "X", ",", "treatment", ",", "y", ")", "y", "=", "np", ".", "hstack", "(", "(", "y", ".", "reshape", "(", "-", "1", ",", "1", ")", ",", "treatment", ".", "reshape", "(", "-", "1", ",", "1", ")", ")", ")", "self", ".", "dragonnet", "=", "self", ".", "make_dragonnet", "(", "X", ".", "shape", "[", "1", "]", ")", "metrics", "=", "[", "regression_loss", ",", "binary_classification_loss", ",", "treatment_accuracy", ",", "track_epsilon", "]", "if", "self", ".", "targeted_reg", ":", "loss", "=", "make_tarreg_loss", "(", "ratio", "=", "self", ".", "ratio", ",", "dragonnet_loss", "=", "self", ".", "loss_func", ")", "else", ":", "loss", "=", "self", ".", "loss_func", "self", ".", "dragonnet", ".", "compile", "(", "optimizer", "=", "Adam", "(", "lr", "=", "self", ".", "learning_rate", ")", ",", "loss", "=", "loss", ",", "metrics", "=", "metrics", ")", "adam_callbacks", "=", "[", "TerminateOnNaN", "(", ")", ",", "EarlyStopping", "(", "monitor", "=", "'val_loss'", ",", "patience", "=", "2", ",", "min_delta", "=", "0.", ")", ",", "ReduceLROnPlateau", "(", "monitor", "=", "'loss'", ",", "factor", "=", "0.5", ",", "patience", "=", "5", ",", "verbose", "=", "self", ".", "verbose", ",", "mode", "=", "'auto'", ",", "min_delta", "=", "1e-8", ",", "cooldown", "=", "0", ",", "min_lr", "=", "0", ")", "]", "self", ".", "dragonnet", ".", "fit", "(", "X", ",", "y", ",", "callbacks", "=", "adam_callbacks", ",", "validation_split", "=", "self", ".", "val_split", ",", "epochs", "=", "self", ".", "epochs", ",", "batch_size", "=", "self", ".", "batch_size", ",", "verbose", "=", "self", ".", "verbose", ")", "sgd_callbacks", "=", "[", "TerminateOnNaN", "(", ")", ",", "EarlyStopping", "(", "monitor", "=", "'val_loss'", ",", "patience", "=", "40", ",", "min_delta", "=", "0.", ")", ",", "ReduceLROnPlateau", "(", "monitor", "=", "'loss'", ",", "factor", "=", "0.5", ",", "patience", "=", "5", ",", "verbose", "=", "self", ".", "verbose", ",", "mode", "=", "'auto'", ",", "min_delta", "=", "0.", ",", "cooldown", "=", "0", ",", "min_lr", "=", "0", ")", "]", "sgd_lr", "=", "1e-5", "momentum", "=", "0.9", "self", ".", "dragonnet", ".", "compile", "(", "optimizer", "=", "SGD", "(", "lr", "=", "sgd_lr", ",", "momentum", "=", "momentum", ",", "nesterov", "=", "True", ")", ",", "loss", "=", "loss", ",", "metrics", "=", "metrics", ")", "self", ".", "dragonnet", ".", "fit", "(", "X", ",", "y", ",", "callbacks", "=", "sgd_callbacks", ",", "validation_split", "=", "self", ".", "val_split", ",", "epochs", "=", "300", ",", "batch_size", "=", "self", ".", "batch_size", ",", "verbose", "=", "self", ".", "verbose", ")" ]

[ 99, 4 ]

[ 155, 48 ]

[ "def", "predict", "(", "self", ",", "X", ",", "treatment", "=", "None", ",", "y", "=", "None", ",", "p", "=", "None", ")", ":", "return", "self", ".", "dragonnet", ".", "predict", "(", "X", ")" ]

[ 157, 4 ]

[ 167, 40 ]

[ "def", "predict_propensity", "(", "self", ",", "X", ")", ":", "preds", "=", "self", ".", "predict", "(", "X", ")", "return", "preds", "[", ":", ",", "2", "]" ]

[ 169, 4 ]

[ 179, 26 ]

[ "def", "predict_tau", "(", "self", ",", "X", ")", ":", "preds", "=", "self", ".", "predict", "(", "X", ")", "return", "(", "preds", "[", ":", ",", "1", "]", "-", "preds", "[", ":", ",", "0", "]", ")", ".", "reshape", "(", "-", "1", ",", "1", ")" ]

[ 181, 4 ]

[ 191, 57 ]

[ "def", "fit_predict", "(", "self", ",", "X", ",", "treatment", ",", "y", ",", "p", "=", "None", ",", "return_components", "=", "False", ")", ":", "self", ".", "fit", "(", "X", ",", "treatment", ",", "y", ")", "return", "self", ".", "predict_tau", "(", "X", ")" ]

[ 193, 4 ]

[ 208, 34 ]

[ "def", "ExceptionAppend", "(", "e", ",", "msg", ")", ":", "if", "not", "e", ".", "args", ":", "e", ".", "args", "=", "(", "msg", ",", ")", "elif", "len", "(", "e", ".", "args", ")", "==", "1", ":", "e", ".", "args", "=", "(", "str", "(", "e", ".", "args", "[", "0", "]", ")", "+", "' '", "+", "msg", ",", ")", "else", ":", "e", ".", "args", "=", "(", "str", "(", "e", ".", "args", "[", "0", "]", ")", "+", "' '", "+", "msg", ",", ")", "+", "e", ".", "args", "[", "1", ":", "]" ]

[ 37, 0 ]

[ 44, 55 ]

[ "def", "FindQualifiedTargets", "(", "target", ",", "qualified_list", ")", ":", "return", "[", "t", "for", "t", "in", "qualified_list", "if", "ParseQualifiedTarget", "(", "t", ")", "[", "1", "]", "==", "target", "]" ]

[ 47, 0 ]

[ 52, 76 ]

[ "def", "GetEnvironFallback", "(", "var_list", ",", "default", ")", ":", "for", "var", "in", "var_list", ":", "if", "var", "in", "os", ".", "environ", ":", "return", "os", ".", "environ", "[", "var", "]", "return", "default" ]

[ 113, 0 ]

[ 119, 16 ]

[ "def", "InvertRelativePath", "(", "path", ",", "toplevel_dir", "=", "None", ")", ":", "if", "not", "path", ":", "return", "path", "toplevel_dir", "=", "'.'", "if", "toplevel_dir", "is", "None", "else", "toplevel_dir", "return", "RelativePath", "(", "toplevel_dir", ",", "os", ".", "path", ".", "join", "(", "toplevel_dir", ",", "path", ")", ")" ]

[ 177, 0 ]

[ 187, 69 ]

[ "def", "EncodePOSIXShellArgument", "(", "argument", ")", ":", "if", "not", "isinstance", "(", "argument", ",", "str", ")", ":", "argument", "=", "str", "(", "argument", ")", "if", "_quote", ".", "search", "(", "argument", ")", ":", "quote", "=", "'\"'", "else", ":", "quote", "=", "''", "encoded", "=", "quote", "+", "re", ".", "sub", "(", "_escape", ",", "r'\\\\\\1'", ",", "argument", ")", "+", "quote", "return", "encoded" ]

[ 259, 0 ]

[ 279, 16 ]

[ "def", "EncodePOSIXShellList", "(", "list", ")", ":", "encoded_arguments", "=", "[", "]", "for", "argument", "in", "list", ":", "encoded_arguments", ".", "append", "(", "EncodePOSIXShellArgument", "(", "argument", ")", ")", "return", "' '", ".", "join", "(", "encoded_arguments", ")" ]

[ 282, 0 ]

[ 292, 36 ]

[ "def", "DeepDependencyTargets", "(", "target_dicts", ",", "roots", ")", ":", "dependencies", "=", "set", "(", ")", "pending", "=", "set", "(", "roots", ")", "while", "pending", ":", "# Pluck out one.", "r", "=", "pending", ".", "pop", "(", ")", "# Skip if visited already.", "if", "r", "in", "dependencies", ":", "continue", "# Add it.", "dependencies", ".", "add", "(", "r", ")", "# Add its children.", "spec", "=", "target_dicts", "[", "r", "]", "pending", ".", "update", "(", "set", "(", "spec", ".", "get", "(", "'dependencies'", ",", "[", "]", ")", ")", ")", "pending", ".", "update", "(", "set", "(", "spec", ".", "get", "(", "'dependencies_original'", ",", "[", "]", ")", ")", ")", "return", "list", "(", "dependencies", "-", "set", "(", "roots", ")", ")" ]

[ 295, 0 ]

[ 311, 40 ]

[ "def", "BuildFileTargets", "(", "target_list", ",", "build_file", ")", ":", "return", "[", "p", "for", "p", "in", "target_list", "if", "BuildFile", "(", "p", ")", "==", "build_file", "]" ]

[ 314, 0 ]

[ 317, 63 ]

[ "def", "AllTargets", "(", "target_list", ",", "target_dicts", ",", "build_file", ")", ":", "bftargets", "=", "BuildFileTargets", "(", "target_list", ",", "build_file", ")", "deptargets", "=", "DeepDependencyTargets", "(", "target_dicts", ",", "bftargets", ")", "return", "bftargets", "+", "deptargets" ]

[ 320, 0 ]

[ 325, 31 ]

[ "def", "WriteOnDiff", "(", "filename", ")", ":", "class", "Writer", "(", "object", ")", ":", "\"\"\"Wrapper around file which only covers the target if it differs.\"\"\"", "def", "__init__", "(", "self", ")", ":", "# Pick temporary file.", "tmp_fd", ",", "self", ".", "tmp_path", "=", "tempfile", ".", "mkstemp", "(", "suffix", "=", "'.tmp'", ",", "prefix", "=", "os", ".", "path", ".", "split", "(", "filename", ")", "[", "1", "]", "+", "'.gyp.'", ",", "dir", "=", "os", ".", "path", ".", "split", "(", "filename", ")", "[", "0", "]", ")", "try", ":", "self", ".", "tmp_file", "=", "os", ".", "fdopen", "(", "tmp_fd", ",", "'wb'", ")", "except", "Exception", ":", "# Don't leave turds behind.", "os", ".", "unlink", "(", "self", ".", "tmp_path", ")", "raise", "def", "__getattr__", "(", "self", ",", "attrname", ")", ":", "# Delegate everything else to self.tmp_file", "return", "getattr", "(", "self", ".", "tmp_file", ",", "attrname", ")", "def", "close", "(", "self", ")", ":", "try", ":", "# Close tmp file.", "self", ".", "tmp_file", ".", "close", "(", ")", "# Determine if different.", "same", "=", "False", "try", ":", "same", "=", "filecmp", ".", "cmp", "(", "self", ".", "tmp_path", ",", "filename", ",", "False", ")", "except", "OSError", ",", "e", ":", "if", "e", ".", "errno", "!=", "errno", ".", "ENOENT", ":", "raise", "if", "same", ":", "# The new file is identical to the old one, just get rid of the new", "# one.", "os", ".", "unlink", "(", "self", ".", "tmp_path", ")", "else", ":", "# The new file is different from the old one, or there is no old one.", "# Rename the new file to the permanent name.", "#", "# tempfile.mkstemp uses an overly restrictive mode, resulting in a", "# file that can only be read by the owner, regardless of the umask.", "# There's no reason to not respect the umask here, which means that", "# an extra hoop is required to fetch it and reset the new file's mode.", "#", "# No way to get the umask without setting a new one? Set a safe one", "# and then set it back to the old value.", "umask", "=", "os", ".", "umask", "(", "077", ")", "os", ".", "umask", "(", "umask", ")", "os", ".", "chmod", "(", "self", ".", "tmp_path", ",", "0666", "&", "~", "umask", ")", "if", "sys", ".", "platform", "==", "'win32'", "and", "os", ".", "path", ".", "exists", "(", "filename", ")", ":", "# NOTE: on windows (but not cygwin) rename will not replace an", "# existing file, so it must be preceded with a remove. Sadly there", "# is no way to make the switch atomic.", "os", ".", "remove", "(", "filename", ")", "os", ".", "rename", "(", "self", ".", "tmp_path", ",", "filename", ")", "except", "Exception", ":", "# Don't leave turds behind.", "os", ".", "unlink", "(", "self", ".", "tmp_path", ")", "raise", "return", "Writer", "(", ")" ]

[ 328, 0 ]

[ 398, 17 ]

[ "def", "EnsureDirExists", "(", "path", ")", ":", "try", ":", "os", ".", "makedirs", "(", "os", ".", "path", ".", "dirname", "(", "path", ")", ")", "except", "OSError", ":", "pass" ]

[ 401, 0 ]

[ 406, 8 ]

[ "def", "GetFlavor", "(", "params", ")", ":", "flavors", "=", "{", "'cygwin'", ":", "'win'", ",", "'win32'", ":", "'win'", ",", "'darwin'", ":", "'mac'", ",", "}", "if", "'flavor'", "in", "params", ":", "return", "params", "[", "'flavor'", "]", "if", "sys", ".", "platform", "in", "flavors", ":", "return", "flavors", "[", "sys", ".", "platform", "]", "if", "sys", ".", "platform", ".", "startswith", "(", "'sunos'", ")", ":", "return", "'solaris'", "if", "sys", ".", "platform", ".", "startswith", "(", "'freebsd'", ")", ":", "return", "'freebsd'", "if", "sys", ".", "platform", ".", "startswith", "(", "'openbsd'", ")", ":", "return", "'openbsd'", "if", "sys", ".", "platform", ".", "startswith", "(", "'netbsd'", ")", ":", "return", "'netbsd'", "if", "sys", ".", "platform", ".", "startswith", "(", "'aix'", ")", ":", "return", "'aix'", "if", "sys", ".", "platform", ".", "startswith", "(", "'zos'", ")", ":", "return", "'zos'", "if", "sys", ".", "platform", ".", "startswith", "(", "'os390'", ")", ":", "return", "'zos'", "return", "'linux'" ]

[ 409, 0 ]

[ 436, 16 ]

[ "def", "CopyTool", "(", "flavor", ",", "out_path", ")", ":", "# aix and solaris just need flock emulation. mac and win use more complicated", "# support scripts.", "prefix", "=", "{", "'aix'", ":", "'flock'", ",", "'solaris'", ":", "'flock'", ",", "'mac'", ":", "'mac'", ",", "'win'", ":", "'win'", "}", ".", "get", "(", "flavor", ",", "None", ")", "if", "not", "prefix", ":", "return", "# Slurp input file.", "source_path", "=", "os", ".", "path", ".", "join", "(", "os", ".", "path", ".", "dirname", "(", "os", ".", "path", ".", "abspath", "(", "__file__", ")", ")", ",", "'%s_tool.py'", "%", "prefix", ")", "with", "open", "(", "source_path", ")", "as", "source_file", ":", "source", "=", "source_file", ".", "readlines", "(", ")", "# Add header and write it out.", "tool_path", "=", "os", ".", "path", ".", "join", "(", "out_path", ",", "'gyp-%s-tool'", "%", "prefix", ")", "with", "open", "(", "tool_path", ",", "'w'", ")", "as", "tool_file", ":", "tool_file", ".", "write", "(", "''", ".", "join", "(", "[", "source", "[", "0", "]", ",", "'# Generated by gyp. Do not edit.\\n'", "]", "+", "source", "[", "1", ":", "]", ")", ")", "# Make file executable.", "os", ".", "chmod", "(", "tool_path", ",", "0755", ")" ]

[ 439, 0 ]

[ 466, 27 ]

[ "def", "TopologicallySorted", "(", "graph", ",", "get_edges", ")", ":", "get_edges", "=", "memoize", "(", "get_edges", ")", "visited", "=", "set", "(", ")", "visiting", "=", "set", "(", ")", "ordered_nodes", "=", "[", "]", "def", "Visit", "(", "node", ")", ":", "if", "node", "in", "visiting", ":", "raise", "CycleError", "(", "visiting", ")", "if", "node", "in", "visited", ":", "return", "visited", ".", "add", "(", "node", ")", "visiting", ".", "add", "(", "node", ")", "for", "neighbor", "in", "get_edges", "(", "node", ")", ":", "Visit", "(", "neighbor", ")", "visiting", ".", "remove", "(", "node", ")", "ordered_nodes", ".", "insert", "(", "0", ",", "node", ")", "for", "node", "in", "sorted", "(", "graph", ")", ":", "Visit", "(", "node", ")", "return", "ordered_nodes" ]

[ 562, 0 ]

[ 600, 22 ]

[ "def", "add_code_cell", "(", "self", ",", "code", ":", "str", ",", "lint", ":", "bool", "=", "False", ")", "->", "None", ":", "if", "lint", ":", "code", ":", "str", "=", "lint_code", "(", "code", ")", ".", "rstrip", "(", "\"\\n\"", ")", "cell", "=", "nbformat", ".", "v4", ".", "new_code_cell", "(", "code", ")", "self", ".", "_notebook", "[", "\"cells\"", "]", ".", "append", "(", "cell", ")" ]

[ 21, 4 ]

[ 35, 44 ]

[ "def", "add_markdown_cell", "(", "self", ",", "markdown", ":", "str", ")", "->", "None", ":", "cell", "=", "nbformat", ".", "v4", ".", "new_markdown_cell", "(", "markdown", ")", "self", ".", "_notebook", "[", "\"cells\"", "]", ".", "append", "(", "cell", ")" ]

[ 37, 4 ]

[ 47, 44 ]

[ "def", "write_notebook_to_disk", "(", "cls", ",", "notebook", ":", "nbformat", ".", "NotebookNode", ",", "notebook_file_path", ":", "str", ")", "->", "None", ":", "with", "open", "(", "notebook_file_path", ",", "\"w\"", ")", "as", "f", ":", "nbformat", ".", "write", "(", "notebook", ",", "f", ")" ]

[ 50, 4 ]

[ 60, 39 ]

[ "def", "render", "(", "self", ")", ":", "raise", "NotImplementedError" ]

[ 62, 4 ]

[ 66, 33 ]

[ "def", "render_to_disk", "(", "self", ",", "notebook_file_path", ":", "str", ",", ")", "->", "None", ":", "raise", "NotImplementedError" ]

[ 68, 4 ]

[ 75, 33 ]

[ "def", "nested_update", "(", "d", ":", "Union", "[", "Iterable", ",", "dict", "]", ",", "u", ":", "Union", "[", "Iterable", ",", "dict", "]", ",", "dedup", ":", "bool", "=", "False", ")", ":", "for", "k", ",", "v", "in", "u", ".", "items", "(", ")", ":", "if", "isinstance", "(", "v", ",", "Mapping", ")", ":", "d", "[", "k", "]", "=", "nested_update", "(", "d", ".", "get", "(", "k", ",", "{", "}", ")", ",", "v", ",", "dedup", "=", "dedup", ")", "elif", "isinstance", "(", "v", ",", "set", ")", "or", "(", "k", "in", "d", "and", "isinstance", "(", "d", "[", "k", "]", ",", "set", ")", ")", ":", "s1", "=", "d", ".", "get", "(", "k", ",", "set", "(", ")", ")", "s2", "=", "v", "or", "set", "(", ")", "d", "[", "k", "]", "=", "s1", "|", "s2", "elif", "isinstance", "(", "v", ",", "list", ")", "or", "(", "k", "in", "d", "and", "isinstance", "(", "d", "[", "k", "]", ",", "list", ")", ")", ":", "l1", "=", "d", ".", "get", "(", "k", ",", "[", "]", ")", "l2", "=", "v", "or", "[", "]", "if", "dedup", ":", "d", "[", "k", "]", "=", "list", "(", "set", "(", "l1", "+", "l2", ")", ")", "else", ":", "d", "[", "k", "]", "=", "l1", "+", "l2", "else", ":", "d", "[", "k", "]", "=", "v", "return", "d" ]

[ 69, 0 ]

[ 89, 12 ]

[ "def", "in_databricks", "(", ")", "->", "bool", ":", "return", "\"DATABRICKS_RUNTIME_VERSION\"", "in", "os", ".", "environ" ]

[ 105, 0 ]

[ 112, 53 ]

[ "def", "convert_to_json_serializable", "(", "data", ")", ":", "# If it's one of our types, we use our own conversion; this can move to full schema", "# once nesting goes all the way down", "if", "isinstance", "(", "data", ",", "(", "SerializableDictDot", ",", "SerializableDotDict", ")", ")", ":", "return", "data", ".", "to_json_dict", "(", ")", "# Handling \"float(nan)\" separately is required by Python-3.6 and Pandas-0.23 versions.", "if", "isinstance", "(", "data", ",", "float", ")", "and", "np", ".", "isnan", "(", "data", ")", ":", "return", "None", "if", "isinstance", "(", "data", ",", "(", "str", ",", "int", ",", "float", ",", "bool", ")", ")", ":", "# No problem to encode json", "return", "data", "if", "isinstance", "(", "data", ",", "dict", ")", ":", "new_dict", "=", "{", "}", "for", "key", "in", "data", ":", "# A pandas index can be numeric, and a dict key can be numeric, but a json key must be a string", "new_dict", "[", "str", "(", "key", ")", "]", "=", "convert_to_json_serializable", "(", "data", "[", "key", "]", ")", "return", "new_dict", "if", "isinstance", "(", "data", ",", "(", "list", ",", "tuple", ",", "set", ")", ")", ":", "new_list", "=", "[", "]", "for", "val", "in", "data", ":", "new_list", ".", "append", "(", "convert_to_json_serializable", "(", "val", ")", ")", "return", "new_list", "if", "isinstance", "(", "data", ",", "(", "np", ".", "ndarray", ",", "pd", ".", "Index", ")", ")", ":", "# test_obj[key] = test_obj[key].tolist()", "# If we have an array or index, convert it first to a list--causing coercion to float--and then round", "# to the number of digits for which the string representation will equal the float representation", "return", "[", "convert_to_json_serializable", "(", "x", ")", "for", "x", "in", "data", ".", "tolist", "(", ")", "]", "if", "isinstance", "(", "data", ",", "(", "datetime", ".", "datetime", ",", "datetime", ".", "date", ")", ")", ":", "return", "data", ".", "isoformat", "(", ")", "if", "isinstance", "(", "data", ",", "uuid", ".", "UUID", ")", ":", "return", "str", "(", "data", ")", "# Use built in base type from numpy, https://docs.scipy.org/doc/numpy-1.13.0/user/basics.types.html", "# https://github.com/numpy/numpy/pull/9505", "if", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "bool_", ")", ":", "return", "bool", "(", "data", ")", "if", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "integer", ")", "or", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "uint", ")", ":", "return", "int", "(", "data", ")", "if", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "floating", ")", ":", "# Note: Use np.floating to avoid FutureWarning from numpy", "return", "float", "(", "round", "(", "data", ",", "sys", ".", "float_info", ".", "dig", ")", ")", "# Note: This clause has to come after checking for np.ndarray or we get:", "# `ValueError: The truth value of an array with more than one element is ambiguous. Use a.any() or a.all()`", "if", "data", "is", "None", ":", "# No problem to encode json", "return", "data", "try", ":", "if", "not", "isinstance", "(", "data", ",", "list", ")", "and", "pd", ".", "isna", "(", "data", ")", ":", "# pd.isna is functionally vectorized, but we only want to apply this to single objects", "# Hence, why we test for `not isinstance(list))`", "return", "None", "except", "TypeError", ":", "pass", "except", "ValueError", ":", "pass", "if", "isinstance", "(", "data", ",", "pd", ".", "Series", ")", ":", "# Converting a series is tricky since the index may not be a string, but all json", "# keys must be strings. So, we use a very ugly serialization strategy", "index_name", "=", "data", ".", "index", ".", "name", "or", "\"index\"", "value_name", "=", "data", ".", "name", "or", "\"value\"", "return", "[", "{", "index_name", ":", "convert_to_json_serializable", "(", "idx", ")", ",", "value_name", ":", "convert_to_json_serializable", "(", "val", ")", ",", "}", "for", "idx", ",", "val", "in", "data", ".", "iteritems", "(", ")", "]", "if", "isinstance", "(", "data", ",", "pd", ".", "DataFrame", ")", ":", "return", "convert_to_json_serializable", "(", "data", ".", "to_dict", "(", "orient", "=", "\"records\"", ")", ")", "if", "pyspark", "and", "isinstance", "(", "data", ",", "pyspark", ".", "sql", ".", "DataFrame", ")", ":", "# using StackOverflow suggestion for converting pyspark df into dictionary", "# https://stackoverflow.com/questions/43679880/pyspark-dataframe-to-dictionary-columns-as-keys-and-list-of-column-values-ad-di", "return", "convert_to_json_serializable", "(", "dict", "(", "zip", "(", "data", ".", "schema", ".", "names", ",", "zip", "(", "*", "data", ".", "collect", "(", ")", ")", ")", ")", ")", "if", "isinstance", "(", "data", ",", "decimal", ".", "Decimal", ")", ":", "if", "requires_lossy_conversion", "(", "data", ")", ":", "logger", ".", "warning", "(", "f\"Using lossy conversion for decimal {data} to float object to support serialization.\"", ")", "return", "float", "(", "data", ")", "if", "isinstance", "(", "data", ",", "RunIdentifier", ")", ":", "return", "data", ".", "to_json_dict", "(", ")", "else", ":", "raise", "TypeError", "(", "\"%s is of type %s which cannot be serialized.\"", "%", "(", "str", "(", "data", ")", ",", "type", "(", "data", ")", ".", "__name__", ")", ")" ]

[ 115, 0 ]

[ 231, 9 ]

[ "def", "ensure_json_serializable", "(", "data", ")", ":", "if", "isinstance", "(", "data", ",", "(", "SerializableDictDot", ",", "SerializableDotDict", ")", ")", ":", "return", "if", "isinstance", "(", "data", ",", "(", "(", "str", ",", ")", ",", "(", "int", ",", ")", ",", "float", ",", "bool", ")", ")", ":", "# No problem to encode json", "return", "if", "isinstance", "(", "data", ",", "dict", ")", ":", "for", "key", "in", "data", ":", "str", "(", "key", ")", "# key must be cast-able to string", "ensure_json_serializable", "(", "data", "[", "key", "]", ")", "return", "if", "isinstance", "(", "data", ",", "(", "list", ",", "tuple", ",", "set", ")", ")", ":", "for", "val", "in", "data", ":", "ensure_json_serializable", "(", "val", ")", "return", "if", "isinstance", "(", "data", ",", "(", "np", ".", "ndarray", ",", "pd", ".", "Index", ")", ")", ":", "# test_obj[key] = test_obj[key].tolist()", "# If we have an array or index, convert it first to a list--causing coercion to float--and then round", "# to the number of digits for which the string representation will equal the float representation", "_", "=", "[", "ensure_json_serializable", "(", "x", ")", "for", "x", "in", "data", ".", "tolist", "(", ")", "]", "return", "if", "isinstance", "(", "data", ",", "(", "datetime", ".", "datetime", ",", "datetime", ".", "date", ")", ")", ":", "return", "# Use built in base type from numpy, https://docs.scipy.org/doc/numpy-1.13.0/user/basics.types.html", "# https://github.com/numpy/numpy/pull/9505", "if", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "bool_", ")", ":", "return", "if", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "integer", ")", "or", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "uint", ")", ":", "return", "if", "np", ".", "issubdtype", "(", "type", "(", "data", ")", ",", "np", ".", "floating", ")", ":", "# Note: Use np.floating to avoid FutureWarning from numpy", "return", "# Note: This clause has to come after checking for np.ndarray or we get:", "# `ValueError: The truth value of an array with more than one element is ambiguous. Use a.any() or a.all()`", "if", "data", "is", "None", ":", "# No problem to encode json", "return", "try", ":", "if", "not", "isinstance", "(", "data", ",", "list", ")", "and", "pd", ".", "isna", "(", "data", ")", ":", "# pd.isna is functionally vectorized, but we only want to apply this to single objects", "# Hence, why we test for `not isinstance(list))`", "return", "except", "TypeError", ":", "pass", "except", "ValueError", ":", "pass", "if", "isinstance", "(", "data", ",", "pd", ".", "Series", ")", ":", "# Converting a series is tricky since the index may not be a string, but all json", "# keys must be strings. So, we use a very ugly serialization strategy", "index_name", "=", "data", ".", "index", ".", "name", "or", "\"index\"", "value_name", "=", "data", ".", "name", "or", "\"value\"", "_", "=", "[", "{", "index_name", ":", "ensure_json_serializable", "(", "idx", ")", ",", "value_name", ":", "ensure_json_serializable", "(", "val", ")", ",", "}", "for", "idx", ",", "val", "in", "data", ".", "iteritems", "(", ")", "]", "return", "if", "pyspark", "and", "isinstance", "(", "data", ",", "pyspark", ".", "sql", ".", "DataFrame", ")", ":", "# using StackOverflow suggestion for converting pyspark df into dictionary", "# https://stackoverflow.com/questions/43679880/pyspark-dataframe-to-dictionary-columns-as-keys-and-list-of-column-values-ad-di", "return", "ensure_json_serializable", "(", "dict", "(", "zip", "(", "data", ".", "schema", ".", "names", ",", "zip", "(", "*", "data", ".", "collect", "(", ")", ")", ")", ")", ")", "if", "isinstance", "(", "data", ",", "pd", ".", "DataFrame", ")", ":", "return", "ensure_json_serializable", "(", "data", ".", "to_dict", "(", "orient", "=", "\"records\"", ")", ")", "if", "isinstance", "(", "data", ",", "decimal", ".", "Decimal", ")", ":", "return", "if", "isinstance", "(", "data", ",", "RunIdentifier", ")", ":", "return", "else", ":", "raise", "InvalidExpectationConfigurationError", "(", "\"%s is of type %s which cannot be serialized to json\"", "%", "(", "str", "(", "data", ")", ",", "type", "(", "data", ")", ".", "__name__", ")", ")" ]

[ 234, 0 ]

[ 336, 9 ]

[ "def", "substitute_all_strftime_format_strings", "(", "data", ":", "Union", "[", "dict", ",", "list", ",", "str", ",", "Any", "]", ",", "datetime_obj", ":", "Optional", "[", "datetime", ".", "datetime", "]", "=", "None", ")", "->", "Union", "[", "str", ",", "Any", "]", ":", "datetime_obj", ":", "datetime", ".", "datetime", "=", "datetime_obj", "or", "datetime", ".", "datetime", ".", "now", "(", ")", "if", "isinstance", "(", "data", ",", "dict", ")", "or", "isinstance", "(", "data", ",", "OrderedDict", ")", ":", "return", "{", "k", ":", "substitute_all_strftime_format_strings", "(", "v", ",", "datetime_obj", "=", "datetime_obj", ")", "for", "k", ",", "v", "in", "data", ".", "items", "(", ")", "}", "elif", "isinstance", "(", "data", ",", "list", ")", ":", "return", "[", "substitute_all_strftime_format_strings", "(", "el", ",", "datetime_obj", "=", "datetime_obj", ")", "for", "el", "in", "data", "]", "elif", "isinstance", "(", "data", ",", "str", ")", ":", "return", "get_datetime_string_from_strftime_format", "(", "data", ",", "datetime_obj", "=", "datetime_obj", ")", "else", ":", "return", "data" ]

[ 343, 0 ]

[ 365, 19 ]

[ "def", "get_datetime_string_from_strftime_format", "(", "format_str", ":", "str", ",", "datetime_obj", ":", "Optional", "[", "datetime", ".", "datetime", "]", "=", "None", ")", "->", "str", ":", "datetime_obj", ":", "datetime", ".", "datetime", "=", "datetime_obj", "or", "datetime", ".", "datetime", ".", "now", "(", ")", "return", "datetime_obj", ".", "strftime", "(", "format_str", ")" ]

[ 368, 0 ]

[ 376, 44 ]

[ "def", "sniff_s3_compression", "(", "s3_url", ":", "S3Url", ")", "->", "str", ":", "return", "_SUFFIX_TO_PD_KWARG", ".", "get", "(", "s3_url", ".", "suffix", ")" ]

[ 462, 0 ]

[ 464, 49 ]