Datasets:

---

blindsubmissions

/

GH_text2code

like 4

[ "def", "__init__", "(", "self", ",", "io_standard", ")", "->", "None", ":", "self", ".", "io", "=", "[", "(", "\"serial\"", ",", "0", ",", "Subsignal", "(", "\"rx\"", ",", "Pins", "(", "\"J2:15\"", ")", ")", ",", "Subsignal", "(", "\"tx\"", ",", "Pins", "(", "\"J2:16\"", ")", ")", ",", "io_standard", ")", ",", "(", "\"user_led\"", ",", "0", ",", "Pins", "(", "\"J2:40\"", ")", ",", "io_standard", ")", ",", "(", "\"user_led\"", ",", "1", ",", "Pins", "(", "\"J2:39\"", ")", ",", "io_standard", ")", ",", "(", "\"user_led\"", ",", "2", ",", "Pins", "(", "\"J2:38\"", ")", ",", "io_standard", ")", ",", "(", "\"user_led\"", ",", "3", ",", "Pins", "(", "\"J2:37\"", ")", ",", "io_standard", ")", ",", "(", "\"user_led\"", ",", "4", ",", "Pins", "(", "\"J2:36\"", ")", ",", "io_standard", ")", ",", "(", "\"user_btn\"", ",", "0", ",", "Pins", "(", "\"J3:7\"", ")", ",", "io_standard", ")", ",", "(", "\"user_btn\"", ",", "1", ",", "Pins", "(", "\"J2:44\"", ")", ",", "io_standard", ")", ",", "(", "\"user_btn\"", ",", "2", ",", "Pins", "(", "\"J2:43\"", ")", ",", "io_standard", ")", ",", "(", "\"user_btn\"", ",", "3", ",", "Pins", "(", "\"J2:42\"", ")", ",", "io_standard", ")", ",", "(", "\"user_btn\"", ",", "4", ",", "Pins", "(", "\"J2:41\"", ")", ",", "io_standard", ")", ",", "# GMII Ethernet", "(", "\"eth_clocks\"", ",", "0", ",", "Subsignal", "(", "\"tx\"", ",", "Pins", "(", "\"J3:22\"", ")", ")", ",", "Subsignal", "(", "\"gtx\"", ",", "Pins", "(", "\"J3:29\"", ")", ")", ",", "Subsignal", "(", "\"rx\"", ",", "Pins", "(", "\"J3:37\"", ")", ")", ",", "io_standard", ")", ",", "(", "\"eth\"", ",", "0", ",", "# rst is hardwired on the board", "#Subsignal(\"rst_n\", Pins(\"-\")),", "Subsignal", "(", "\"int_n\"", ",", "Pins", "(", "\"J3:26\"", ")", ")", ",", "Subsignal", "(", "\"mdio\"", ",", "Pins", "(", "\"J3:15\"", ")", ")", ",", "Subsignal", "(", "\"mdc\"", ",", "Pins", "(", "\"J3:16\"", ")", ")", ",", "Subsignal", "(", "\"rx_dv\"", ",", "Pins", "(", "\"J3:42\"", ")", ")", ",", "Subsignal", "(", "\"rx_er\"", ",", "Pins", "(", "\"J3:32\"", ")", ")", ",", "Subsignal", "(", "\"rx_data\"", ",", "Pins", "(", "\"J3:41 J3:40 J3:39 J3:38 J3:36 J3:35 J3:34 J3:33\"", ")", ")", ",", "Subsignal", "(", "\"tx_en\"", ",", "Pins", "(", "\"J3:28\"", ")", ")", ",", "Subsignal", "(", "\"tx_er\"", ",", "Pins", "(", "\"J3:17\"", ")", ")", ",", "Subsignal", "(", "\"tx_data\"", ",", "Pins", "(", "\"J3:27 J3:25 J3:24 J3:23 J3:21 J3:20 J3:19 J3:18\"", ")", ")", ",", "Subsignal", "(", "\"col\"", ",", "Pins", "(", "\"J3:31\"", ")", ")", ",", "Subsignal", "(", "\"crs\"", ",", "Pins", "(", "\"J3:30\"", ")", ")", ",", "io_standard", ")", ",", "# Seven Segment", "(", "\"seven_seg_ctl\"", ",", "0", ",", "Pins", "(", "\"J2:33\"", ")", ",", "io_standard", ")", ",", "(", "\"seven_seg_ctl\"", ",", "1", ",", "Pins", "(", "\"J2:27\"", ")", ",", "io_standard", ")", ",", "(", "\"seven_seg_ctl\"", ",", "2", ",", "Pins", "(", "\"J2:35\"", ")", ",", "io_standard", ")", ",", "(", "\"seven_seg\"", ",", "0", ",", "Pins", "(", "\"J2:31 J2:26 J2:28 J2:32 J2:34 J2:29 J2:25 J2:30\"", ")", ",", "io_standard", ")", ",", "# VGA", "(", "\"vga\"", ",", "0", ",", "Subsignal", "(", "\"hsync_n\"", ",", "Pins", "(", "\"J3:44\"", ")", ")", ",", "Subsignal", "(", "\"vsync_n\"", ",", "Pins", "(", "\"J3:43\"", ")", ")", ",", "Subsignal", "(", "\"r\"", ",", "Pins", "(", "\"J3:57 J3:56 J3:59 J3:58 J3:60\"", ")", ")", ",", "Subsignal", "(", "\"g\"", ",", "Pins", "(", "\"J3:51 J3:50 J3:53 J3:52 J3:54 J3:55\"", ")", ")", ",", "Subsignal", "(", "\"b\"", ",", "Pins", "(", "\"J3:46 J3:45 J3:48 J3:47 J3:49\"", ")", ")", ",", "io_standard", ")", ",", "# PullUp resistors are on the board, so we don't need them in the FPGA", "(", "\"sdcard\"", ",", "0", ",", "Subsignal", "(", "\"data\"", ",", "Pins", "(", "\"J3:10 J3:9 J3:14 J3:13\"", ")", ")", ",", "Subsignal", "(", "\"cmd\"", ",", "Pins", "(", "\"J3:12\"", ")", ")", ",", "Subsignal", "(", "\"clk\"", ",", "Pins", "(", "\"J3:11\"", ")", ")", ",", "Subsignal", "(", "\"cd\"", ",", "Pins", "(", "\"J3:8\"", ")", ")", ",", "Misc", "(", "\"SLEW=FAST\"", ")", ",", "io_standard", ",", ")", ",", "]" ]

[ 9, 4 ]

[ 82, 9 ]

[ "def", "create_model", "(", "architecture", ",", "classes_num", ")", ":", "name", "=", "architecture", "[", "\"name\"", "]", "params", "=", "architecture", ".", "get", "(", "\"params\"", ",", "{", "}", ")", "return", "architectures", ".", "__dict__", "[", "name", "]", "(", "class_dim", "=", "classes_num", ",", "*", "*", "params", ")" ]

[ 38, 0 ]

[ 53, 72 ]

[ "def", "create_loss", "(", "feeds", ",", "out", ",", "architecture", ",", "classes_num", "=", "1000", ",", "epsilon", "=", "None", ",", "use_mix", "=", "False", ",", "use_distillation", "=", "False", ")", ":", "if", "architecture", "[", "\"name\"", "]", "==", "\"GoogLeNet\"", ":", "assert", "len", "(", "out", ")", "==", "3", ",", "\"GoogLeNet should have 3 outputs\"", "loss", "=", "GoogLeNetLoss", "(", "class_dim", "=", "classes_num", ",", "epsilon", "=", "epsilon", ")", "return", "loss", "(", "out", "[", "0", "]", ",", "out", "[", "1", "]", ",", "out", "[", "2", "]", ",", "feeds", "[", "\"label\"", "]", ")", "if", "use_distillation", ":", "assert", "len", "(", "out", ")", "==", "2", ",", "(", "\"distillation output length must be 2, \"", "\"but got {}\"", ".", "format", "(", "len", "(", "out", ")", ")", ")", "loss", "=", "JSDivLoss", "(", "class_dim", "=", "classes_num", ",", "epsilon", "=", "epsilon", ")", "return", "loss", "(", "out", "[", "1", "]", ",", "out", "[", "0", "]", ")", "if", "use_mix", ":", "loss", "=", "MixCELoss", "(", "class_dim", "=", "classes_num", ",", "epsilon", "=", "epsilon", ")", "feed_y_a", "=", "feeds", "[", "'y_a'", "]", "feed_y_b", "=", "feeds", "[", "'y_b'", "]", "feed_lam", "=", "feeds", "[", "'lam'", "]", "return", "loss", "(", "out", ",", "feed_y_a", ",", "feed_y_b", ",", "feed_lam", ")", "else", ":", "loss", "=", "CELoss", "(", "class_dim", "=", "classes_num", ",", "epsilon", "=", "epsilon", ")", "return", "loss", "(", "out", ",", "feeds", "[", "\"label\"", "]", ")" ]

[ 56, 0 ]

[ 102, 40 ]

[ "def", "create_metric", "(", "out", ",", "label", ",", "architecture", ",", "topk", "=", "5", ",", "classes_num", "=", "1000", ",", "use_distillation", "=", "False", ",", "mode", "=", "\"train\"", ")", ":", "if", "architecture", "[", "\"name\"", "]", "==", "\"GoogLeNet\"", ":", "assert", "len", "(", "out", ")", "==", "3", ",", "\"GoogLeNet should have 3 outputs\"", "out", "=", "out", "[", "0", "]", "else", ":", "# just need student label to get metrics", "if", "use_distillation", ":", "out", "=", "out", "[", "1", "]", "softmax_out", "=", "F", ".", "softmax", "(", "out", ")", "fetchs", "=", "OrderedDict", "(", ")", "# set top1 to fetchs", "top1", "=", "paddle", ".", "metric", ".", "accuracy", "(", "softmax_out", ",", "label", "=", "label", ",", "k", "=", "1", ")", "# set topk to fetchs", "k", "=", "min", "(", "topk", ",", "classes_num", ")", "topk", "=", "paddle", ".", "metric", ".", "accuracy", "(", "softmax_out", ",", "label", "=", "label", ",", "k", "=", "k", ")", "# multi cards' eval", "if", "mode", "!=", "\"train\"", "and", "paddle", ".", "distributed", ".", "get_world_size", "(", ")", ">", "1", ":", "top1", "=", "paddle", ".", "distributed", ".", "all_reduce", "(", "top1", ",", "op", "=", "paddle", ".", "distributed", ".", "ReduceOp", ".", "SUM", ")", "/", "paddle", ".", "distributed", ".", "get_world_size", "(", ")", "topk", "=", "paddle", ".", "distributed", ".", "all_reduce", "(", "topk", ",", "op", "=", "paddle", ".", "distributed", ".", "ReduceOp", ".", "SUM", ")", "/", "paddle", ".", "distributed", ".", "get_world_size", "(", ")", "fetchs", "[", "'top1'", "]", "=", "top1", "topk_name", "=", "'top{}'", ".", "format", "(", "k", ")", "fetchs", "[", "topk_name", "]", "=", "topk", "return", "fetchs" ]

[ 105, 0 ]

[ 155, 17 ]

[ "def", "create_fetchs", "(", "feeds", ",", "net", ",", "config", ",", "mode", "=", "\"train\"", ")", ":", "architecture", "=", "config", ".", "ARCHITECTURE", "topk", "=", "config", ".", "topk", "classes_num", "=", "config", ".", "classes_num", "epsilon", "=", "config", ".", "get", "(", "'ls_epsilon'", ")", "use_mix", "=", "config", ".", "get", "(", "'use_mix'", ")", "and", "mode", "==", "'train'", "use_distillation", "=", "config", ".", "get", "(", "'use_distillation'", ")", "out", "=", "net", "(", "feeds", "[", "\"image\"", "]", ")", "fetchs", "=", "OrderedDict", "(", ")", "fetchs", "[", "'loss'", "]", "=", "create_loss", "(", "feeds", ",", "out", ",", "architecture", ",", "classes_num", ",", "epsilon", ",", "use_mix", ",", "use_distillation", ")", "if", "not", "use_mix", ":", "metric", "=", "create_metric", "(", "out", ",", "feeds", "[", "\"label\"", "]", ",", "architecture", ",", "topk", ",", "classes_num", ",", "use_distillation", ",", "mode", "=", "mode", ")", "fetchs", ".", "update", "(", "metric", ")", "return", "fetchs" ]

[ 158, 0 ]

[ 200, 17 ]

[ "def", "create_optimizer", "(", "config", ",", "parameter_list", "=", "None", ")", ":", "# create learning_rate instance", "lr_config", "=", "config", "[", "'LEARNING_RATE'", "]", "lr_config", "[", "'params'", "]", ".", "update", "(", "{", "'epochs'", ":", "config", "[", "'epochs'", "]", ",", "'step_each_epoch'", ":", "config", "[", "'total_images'", "]", "//", "config", "[", "'TRAIN'", "]", "[", "'batch_size'", "]", ",", "}", ")", "lr", "=", "LearningRateBuilder", "(", "*", "*", "lr_config", ")", "(", ")", "# create optimizer instance", "opt_config", "=", "config", "[", "'OPTIMIZER'", "]", "opt", "=", "OptimizerBuilder", "(", "*", "*", "opt_config", ")", "return", "opt", "(", "lr", ",", "parameter_list", ")", ",", "lr" ]

[ 203, 0 ]

[ 238, 38 ]

[ "def", "run", "(", "dataloader", ",", "config", ",", "net", ",", "optimizer", "=", "None", ",", "lr_scheduler", "=", "None", ",", "epoch", "=", "0", ",", "mode", "=", "'train'", ")", ":", "print_interval", "=", "config", ".", "get", "(", "\"print_interval\"", ",", "10", ")", "use_mix", "=", "config", ".", "get", "(", "\"use_mix\"", ",", "False", ")", "and", "mode", "==", "\"train\"", "metric_list", "=", "[", "(", "\"loss\"", ",", "AverageMeter", "(", "'loss'", ",", "'7.5f'", ",", "postfix", "=", "\",\"", ")", ")", ",", "(", "\"lr\"", ",", "AverageMeter", "(", "'lr'", ",", "'f'", ",", "postfix", "=", "\",\"", ",", "need_avg", "=", "False", ")", ")", ",", "(", "\"batch_time\"", ",", "AverageMeter", "(", "'batch_cost'", ",", "'.5f'", ",", "postfix", "=", "\" s,\"", ")", ")", ",", "(", "\"reader_time\"", ",", "AverageMeter", "(", "'reader_cost'", ",", "'.5f'", ",", "postfix", "=", "\" s,\"", ")", ")", ",", "]", "if", "not", "use_mix", ":", "topk_name", "=", "'top{}'", ".", "format", "(", "config", ".", "topk", ")", "metric_list", ".", "insert", "(", "1", ",", "(", "topk_name", ",", "AverageMeter", "(", "topk_name", ",", "'.5f'", ",", "postfix", "=", "\",\"", ")", ")", ")", "metric_list", ".", "insert", "(", "1", ",", "(", "\"top1\"", ",", "AverageMeter", "(", "\"top1\"", ",", "'.5f'", ",", "postfix", "=", "\",\"", ")", ")", ")", "metric_list", "=", "OrderedDict", "(", "metric_list", ")", "tic", "=", "time", ".", "time", "(", ")", "for", "idx", ",", "batch", "in", "enumerate", "(", "dataloader", "(", ")", ")", ":", "# avoid statistics from warmup time", "if", "idx", "==", "10", ":", "metric_list", "[", "\"batch_time\"", "]", ".", "reset", "(", ")", "metric_list", "[", "\"reader_time\"", "]", ".", "reset", "(", ")", "metric_list", "[", "'reader_time'", "]", ".", "update", "(", "time", ".", "time", "(", ")", "-", "tic", ")", "batch_size", "=", "len", "(", "batch", "[", "0", "]", ")", "feeds", "=", "create_feeds", "(", "batch", ",", "use_mix", ")", "fetchs", "=", "create_fetchs", "(", "feeds", ",", "net", ",", "config", ",", "mode", ")", "if", "mode", "==", "'train'", ":", "avg_loss", "=", "fetchs", "[", "'loss'", "]", "avg_loss", ".", "backward", "(", ")", "optimizer", ".", "step", "(", ")", "optimizer", ".", "clear_grad", "(", ")", "metric_list", "[", "'lr'", "]", ".", "update", "(", "optimizer", ".", "_global_learning_rate", "(", ")", ".", "numpy", "(", ")", "[", "0", "]", ",", "batch_size", ")", "if", "lr_scheduler", "is", "not", "None", ":", "if", "lr_scheduler", ".", "update_specified", ":", "curr_global_counter", "=", "lr_scheduler", ".", "step_each_epoch", "*", "epoch", "+", "idx", "update", "=", "max", "(", "0", ",", "curr_global_counter", "-", "lr_scheduler", ".", "update_start_step", ")", "%", "lr_scheduler", ".", "update_step_interval", "==", "0", "if", "update", ":", "lr_scheduler", ".", "step", "(", ")", "else", ":", "lr_scheduler", ".", "step", "(", ")", "for", "name", ",", "fetch", "in", "fetchs", ".", "items", "(", ")", ":", "metric_list", "[", "name", "]", ".", "update", "(", "fetch", ".", "numpy", "(", ")", "[", "0", "]", ",", "batch_size", ")", "metric_list", "[", "\"batch_time\"", "]", ".", "update", "(", "time", ".", "time", "(", ")", "-", "tic", ")", "tic", "=", "time", ".", "time", "(", ")", "fetchs_str", "=", "' '", ".", "join", "(", "[", "str", "(", "metric_list", "[", "key", "]", ".", "mean", ")", "if", "\"time\"", "in", "key", "else", "str", "(", "metric_list", "[", "key", "]", ".", "value", ")", "for", "key", "in", "metric_list", "]", ")", "if", "idx", "%", "print_interval", "==", "0", ":", "ips_info", "=", "\"ips: {:.5f} images/sec.\"", ".", "format", "(", "batch_size", "/", "metric_list", "[", "\"batch_time\"", "]", ".", "avg", ")", "if", "mode", "==", "'eval'", ":", "logger", ".", "info", "(", "\"{:s} step:{:<4d}, {:s} {:s}\"", ".", "format", "(", "mode", ",", "idx", ",", "fetchs_str", ",", "ips_info", ")", ")", "else", ":", "epoch_str", "=", "\"epoch:{:<3d}\"", ".", "format", "(", "epoch", ")", "step_str", "=", "\"{:s} step:{:<4d}\"", ".", "format", "(", "mode", ",", "idx", ")", "logger", ".", "info", "(", "\"{:s}, {:s}, {:s} {:s}\"", ".", "format", "(", "logger", ".", "coloring", "(", "epoch_str", ",", "\"HEADER\"", ")", "if", "idx", "==", "0", "else", "epoch_str", ",", "logger", ".", "coloring", "(", "step_str", ",", "\"PURPLE\"", ")", ",", "logger", ".", "coloring", "(", "fetchs_str", ",", "'OKGREEN'", ")", ",", "logger", ".", "coloring", "(", "ips_info", ",", "'OKGREEN'", ")", ")", ")", "end_str", "=", "' '", ".", "join", "(", "[", "str", "(", "m", ".", "mean", ")", "for", "m", "in", "metric_list", ".", "values", "(", ")", "]", "+", "[", "metric_list", "[", "'batch_time'", "]", ".", "total", "]", ")", "ips_info", "=", "\"ips: {:.5f} images/sec.\"", ".", "format", "(", "batch_size", "*", "metric_list", "[", "\"batch_time\"", "]", ".", "count", "/", "metric_list", "[", "\"batch_time\"", "]", ".", "sum", ")", "if", "mode", "==", "'eval'", ":", "logger", ".", "info", "(", "\"END {:s} {:s} {:s}\"", ".", "format", "(", "mode", ",", "end_str", ",", "ips_info", ")", ")", "else", ":", "end_epoch_str", "=", "\"END epoch:{:<3d}\"", ".", "format", "(", "epoch", ")", "logger", ".", "info", "(", "\"{:s} {:s} {:s} {:s}\"", ".", "format", "(", "logger", ".", "coloring", "(", "end_epoch_str", ",", "\"RED\"", ")", ",", "logger", ".", "coloring", "(", "mode", ",", "\"PURPLE\"", ")", ",", "logger", ".", "coloring", "(", "end_str", ",", "\"OKGREEN\"", ")", ",", "logger", ".", "coloring", "(", "ips_info", ",", "\"OKGREEN\"", ")", ",", ")", ")", "# return top1_acc in order to save the best model", "if", "mode", "==", "'valid'", ":", "return", "metric_list", "[", "'top1'", "]", ".", "avg" ]

[ 254, 0 ]

[ 375, 38 ]

[ "def", "make_signed_jwt", "(", "signer", ",", "payload", ",", "key_id", "=", "None", ")", ":", "header", "=", "{", "'typ'", ":", "'JWT'", ",", "'alg'", ":", "'RS256'", "}", "if", "key_id", "is", "not", "None", ":", "header", "[", "'kid'", "]", "=", "key_id", "segments", "=", "[", "_helpers", ".", "_urlsafe_b64encode", "(", "_helpers", ".", "_json_encode", "(", "header", ")", ")", ",", "_helpers", ".", "_urlsafe_b64encode", "(", "_helpers", ".", "_json_encode", "(", "payload", ")", ")", ",", "]", "signing_input", "=", "b'.'", ".", "join", "(", "segments", ")", "signature", "=", "signer", ".", "sign", "(", "signing_input", ")", "segments", ".", "append", "(", "_helpers", ".", "_urlsafe_b64encode", "(", "signature", ")", ")", "logger", ".", "debug", "(", "str", "(", "segments", ")", ")", "return", "b'.'", ".", "join", "(", "segments", ")" ]

[ 73, 0 ]

[ 101, 30 ]

[ "def", "_verify_signature", "(", "message", ",", "signature", ",", "certs", ")", ":", "for", "pem", "in", "certs", ":", "verifier", "=", "Verifier", ".", "from_string", "(", "pem", ",", "is_x509_cert", "=", "True", ")", "if", "verifier", ".", "verify", "(", "message", ",", "signature", ")", ":", "return", "# If we have not returned, no certificate confirms the signature.", "raise", "AppIdentityError", "(", "'Invalid token signature'", ")" ]

[ 104, 0 ]

[ 122, 53 ]

[ "def", "_check_audience", "(", "payload_dict", ",", "audience", ")", ":", "if", "audience", "is", "None", ":", "return", "audience_in_payload", "=", "payload_dict", ".", "get", "(", "'aud'", ")", "if", "audience_in_payload", "is", "None", ":", "raise", "AppIdentityError", "(", "'No aud field in token: {0}'", ".", "format", "(", "payload_dict", ")", ")", "if", "audience_in_payload", "!=", "audience", ":", "raise", "AppIdentityError", "(", "'Wrong recipient, {0} != {1}: {2}'", ".", "format", "(", "audience_in_payload", ",", "audience", ",", "payload_dict", ")", ")" ]

[ 125, 0 ]

[ 150, 57 ]

[ "def", "_verify_time_range", "(", "payload_dict", ")", ":", "# Get the current time to use throughout.", "now", "=", "int", "(", "time", ".", "time", "(", ")", ")", "# Make sure issued at and expiration are in the payload.", "issued_at", "=", "payload_dict", ".", "get", "(", "'iat'", ")", "if", "issued_at", "is", "None", ":", "raise", "AppIdentityError", "(", "'No iat field in token: {0}'", ".", "format", "(", "payload_dict", ")", ")", "expiration", "=", "payload_dict", ".", "get", "(", "'exp'", ")", "if", "expiration", "is", "None", ":", "raise", "AppIdentityError", "(", "'No exp field in token: {0}'", ".", "format", "(", "payload_dict", ")", ")", "# Make sure the expiration gives an acceptable token lifetime.", "if", "expiration", ">=", "now", "+", "MAX_TOKEN_LIFETIME_SECS", ":", "raise", "AppIdentityError", "(", "'exp field too far in future: {0}'", ".", "format", "(", "payload_dict", ")", ")", "# Make sure (up to clock skew) that the token wasn't issued in the future.", "earliest", "=", "issued_at", "-", "CLOCK_SKEW_SECS", "if", "now", "<", "earliest", ":", "raise", "AppIdentityError", "(", "'Token used too early, {0} < {1}: {2}'", ".", "format", "(", "now", ",", "earliest", ",", "payload_dict", ")", ")", "# Make sure (up to clock skew) that the token isn't already expired.", "latest", "=", "expiration", "+", "CLOCK_SKEW_SECS", "if", "now", ">", "latest", ":", "raise", "AppIdentityError", "(", "'Token used too late, {0} > {1}: {2}'", ".", "format", "(", "now", ",", "latest", ",", "payload_dict", ")", ")" ]

[ 153, 0 ]

[ 203, 39 ]

[ "def", "verify_signed_jwt_with_certs", "(", "jwt", ",", "certs", ",", "audience", "=", "None", ")", ":", "jwt", "=", "_helpers", ".", "_to_bytes", "(", "jwt", ")", "if", "jwt", ".", "count", "(", "b'.'", ")", "!=", "2", ":", "raise", "AppIdentityError", "(", "'Wrong number of segments in token: {0}'", ".", "format", "(", "jwt", ")", ")", "header", ",", "payload", ",", "signature", "=", "jwt", ".", "split", "(", "b'.'", ")", "message_to_sign", "=", "header", "+", "b'.'", "+", "payload", "signature", "=", "_helpers", ".", "_urlsafe_b64decode", "(", "signature", ")", "# Parse token.", "payload_bytes", "=", "_helpers", ".", "_urlsafe_b64decode", "(", "payload", ")", "try", ":", "payload_dict", "=", "json", ".", "loads", "(", "_helpers", ".", "_from_bytes", "(", "payload_bytes", ")", ")", "except", ":", "raise", "AppIdentityError", "(", "'Can\\'t parse token: {0}'", ".", "format", "(", "payload_bytes", ")", ")", "# Verify that the signature matches the message.", "_verify_signature", "(", "message_to_sign", ",", "signature", ",", "certs", ".", "values", "(", ")", ")", "# Verify the issued at and created times in the payload.", "_verify_time_range", "(", "payload_dict", ")", "# Check audience.", "_check_audience", "(", "payload_dict", ",", "audience", ")", "return", "payload_dict" ]

[ 206, 0 ]

[ 249, 23 ]

[ "def", "open", "(", "self", ")", ":", "if", "self", ".", "connection", ":", "# Nothing to do if the connection is already open.", "return", "False", "# If local_hostname is not specified, socket.getfqdn() gets used.", "# For performance, we use the cached FQDN for local_hostname.", "connection_params", "=", "{", "'local_hostname'", ":", "DNS_NAME", ".", "get_fqdn", "(", ")", "}", "if", "self", ".", "timeout", "is", "not", "None", ":", "connection_params", "[", "'timeout'", "]", "=", "self", ".", "timeout", "if", "self", ".", "use_ssl", ":", "connection_params", ".", "update", "(", "{", "'keyfile'", ":", "self", ".", "ssl_keyfile", ",", "'certfile'", ":", "self", ".", "ssl_certfile", ",", "}", ")", "try", ":", "self", ".", "connection", "=", "self", ".", "connection_class", "(", "self", ".", "host", ",", "self", ".", "port", ",", "*", "*", "connection_params", ")", "# TLS/SSL are mutually exclusive, so only attempt TLS over", "# non-secure connections.", "if", "not", "self", ".", "use_ssl", "and", "self", ".", "use_tls", ":", "self", ".", "connection", ".", "starttls", "(", "keyfile", "=", "self", ".", "ssl_keyfile", ",", "certfile", "=", "self", ".", "ssl_certfile", ")", "if", "self", ".", "username", "and", "self", ".", "password", ":", "self", ".", "connection", ".", "login", "(", "self", ".", "username", ",", "self", ".", "password", ")", "return", "True", "except", "OSError", ":", "if", "not", "self", ".", "fail_silently", ":", "raise" ]

[ 40, 4 ]

[ 72, 21 ]

[ "def", "close", "(", "self", ")", ":", "if", "self", ".", "connection", "is", "None", ":", "return", "try", ":", "try", ":", "self", ".", "connection", ".", "quit", "(", ")", "except", "(", "ssl", ".", "SSLError", ",", "smtplib", ".", "SMTPServerDisconnected", ")", ":", "# This happens when calling quit() on a TLS connection", "# sometimes, or when the connection was already disconnected", "# by the server.", "self", ".", "connection", ".", "close", "(", ")", "except", "smtplib", ".", "SMTPException", ":", "if", "self", ".", "fail_silently", ":", "return", "raise", "finally", ":", "self", ".", "connection", "=", "None" ]

[ 74, 4 ]

[ 91, 34 ]

[ "def", "send_messages", "(", "self", ",", "email_messages", ")", ":", "if", "not", "email_messages", ":", "return", "0", "with", "self", ".", "_lock", ":", "new_conn_created", "=", "self", ".", "open", "(", ")", "if", "not", "self", ".", "connection", "or", "new_conn_created", "is", "None", ":", "# We failed silently on open().", "# Trying to send would be pointless.", "return", "0", "num_sent", "=", "0", "for", "message", "in", "email_messages", ":", "sent", "=", "self", ".", "_send", "(", "message", ")", "if", "sent", ":", "num_sent", "+=", "1", "if", "new_conn_created", ":", "self", ".", "close", "(", ")", "return", "num_sent" ]

[ 93, 4 ]

[ 113, 23 ]

[ "def", "_send", "(", "self", ",", "email_message", ")", ":", "if", "not", "email_message", ".", "recipients", "(", ")", ":", "return", "False", "encoding", "=", "email_message", ".", "encoding", "or", "settings", ".", "DEFAULT_CHARSET", "from_email", "=", "sanitize_address", "(", "email_message", ".", "from_email", ",", "encoding", ")", "recipients", "=", "[", "sanitize_address", "(", "addr", ",", "encoding", ")", "for", "addr", "in", "email_message", ".", "recipients", "(", ")", "]", "message", "=", "email_message", ".", "message", "(", ")", "try", ":", "self", ".", "connection", ".", "sendmail", "(", "from_email", ",", "recipients", ",", "message", ".", "as_bytes", "(", "linesep", "=", "'\\r\\n'", ")", ")", "except", "smtplib", ".", "SMTPException", ":", "if", "not", "self", ".", "fail_silently", ":", "raise", "return", "False", "return", "True" ]

[ 115, 4 ]

[ 129, 19 ]

[ "def", "setupmethod", "(", "f", ")", ":", "def", "wrapper_func", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "if", "self", ".", "debug", "and", "self", ".", "_got_first_request", ":", "raise", "AssertionError", "(", "'A setup function was called after the '", "'first request was handled. This usually indicates a bug '", "'in the application where a module was not imported '", "'and decorators or other functionality was called too late.\\n'", "'To fix this make sure to import all your view modules, '", "'database models and everything related at a central place '", "'before the application starts serving requests.'", ")", "return", "f", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", "return", "update_wrapper", "(", "wrapper_func", ",", "f", ")" ]

[ 50, 0 ]

[ 64, 42 ]

[ "def", "name", "(", "self", ")", ":", "if", "self", ".", "import_name", "==", "'__main__'", ":", "fn", "=", "getattr", "(", "sys", ".", "modules", "[", "'__main__'", "]", ",", "'__file__'", ",", "None", ")", "if", "fn", "is", "None", ":", "return", "'__main__'", "return", "os", ".", "path", ".", "splitext", "(", "os", ".", "path", ".", "basename", "(", "fn", ")", ")", "[", "0", "]", "return", "self", ".", "import_name" ]

[ 562, 4 ]

[ 576, 31 ]

[ "def", "propagate_exceptions", "(", "self", ")", ":", "rv", "=", "self", ".", "config", "[", "'PROPAGATE_EXCEPTIONS'", "]", "if", "rv", "is", "not", "None", ":", "return", "rv", "return", "self", ".", "testing", "or", "self", ".", "debug" ]

[ 579, 4 ]

[ 588, 41 ]

[ "def", "preserve_context_on_exception", "(", "self", ")", ":", "rv", "=", "self", ".", "config", "[", "'PRESERVE_CONTEXT_ON_EXCEPTION'", "]", "if", "rv", "is", "not", "None", ":", "return", "rv", "return", "self", ".", "debug" ]

[ 591, 4 ]

[ 601, 25 ]

[ "def", "logger", "(", "self", ")", ":", "if", "self", ".", "_logger", "and", "self", ".", "_logger", ".", "name", "==", "self", ".", "logger_name", ":", "return", "self", ".", "_logger", "with", "_logger_lock", ":", "if", "self", ".", "_logger", "and", "self", ".", "_logger", ".", "name", "==", "self", ".", "logger_name", ":", "return", "self", ".", "_logger", "from", "flask", ".", "logging", "import", "create_logger", "self", ".", "_logger", "=", "rv", "=", "create_logger", "(", "self", ")", "return", "rv" ]

[ 604, 4 ]

[ 623, 21 ]

[ "def", "jinja_env", "(", "self", ")", ":", "return", "self", ".", "create_jinja_environment", "(", ")" ]

[ 626, 4 ]

[ 628, 46 ]

[ "def", "got_first_request", "(", "self", ")", ":", "return", "self", ".", "_got_first_request" ]

[ 631, 4 ]

[ 637, 38 ]

[ "def", "make_config", "(", "self", ",", "instance_relative", "=", "False", ")", ":", "root_path", "=", "self", ".", "root_path", "if", "instance_relative", ":", "root_path", "=", "self", ".", "instance_path", "return", "self", ".", "config_class", "(", "root_path", ",", "self", ".", "default_config", ")" ]

[ 639, 4 ]

[ 651, 64 ]

[ "def", "auto_find_instance_path", "(", "self", ")", ":", "prefix", ",", "package_path", "=", "find_package", "(", "self", ".", "import_name", ")", "if", "prefix", "is", "None", ":", "return", "os", ".", "path", ".", "join", "(", "package_path", ",", "'instance'", ")", "return", "os", ".", "path", ".", "join", "(", "prefix", ",", "'var'", ",", "self", ".", "name", "+", "'-instance'", ")" ]

[ 653, 4 ]

[ 664, 67 ]

[ "def", "open_instance_resource", "(", "self", ",", "resource", ",", "mode", "=", "'rb'", ")", ":", "return", "open", "(", "os", ".", "path", ".", "join", "(", "self", ".", "instance_path", ",", "resource", ")", ",", "mode", ")" ]

[ 666, 4 ]

[ 676, 69 ]

[ "def", "create_jinja_environment", "(", "self", ")", ":", "options", "=", "dict", "(", "self", ".", "jinja_options", ")", "if", "'autoescape'", "not", "in", "options", ":", "options", "[", "'autoescape'", "]", "=", "self", ".", "select_jinja_autoescape", "if", "'auto_reload'", "not", "in", "options", ":", "if", "self", ".", "config", "[", "'TEMPLATES_AUTO_RELOAD'", "]", "is", "not", "None", ":", "options", "[", "'auto_reload'", "]", "=", "self", ".", "config", "[", "'TEMPLATES_AUTO_RELOAD'", "]", "else", ":", "options", "[", "'auto_reload'", "]", "=", "self", ".", "debug", "rv", "=", "self", ".", "jinja_environment", "(", "self", ",", "*", "*", "options", ")", "rv", ".", "globals", ".", "update", "(", "url_for", "=", "url_for", ",", "get_flashed_messages", "=", "get_flashed_messages", ",", "config", "=", "self", ".", "config", ",", "# request, session and g are normally added with the", "# context processor for efficiency reasons but for imported", "# templates we also want the proxies in there.", "request", "=", "request", ",", "session", "=", "session", ",", "g", "=", "g", ")", "rv", ".", "filters", "[", "'tojson'", "]", "=", "json", ".", "tojson_filter", "return", "rv" ]

[ 678, 4 ]

[ 710, 17 ]

[ "def", "create_global_jinja_loader", "(", "self", ")", ":", "return", "DispatchingJinjaLoader", "(", "self", ")" ]

[ 712, 4 ]

[ 723, 43 ]

[ "def", "init_jinja_globals", "(", "self", ")", ":" ]

[ 725, 4 ]

[ 732, 11 ]

[ "def", "select_jinja_autoescape", "(", "self", ",", "filename", ")", ":", "if", "filename", "is", "None", ":", "return", "True", "return", "filename", ".", "endswith", "(", "(", "'.html'", ",", "'.htm'", ",", "'.xml'", ",", "'.xhtml'", ")", ")" ]

[ 734, 4 ]

[ 742, 69 ]

[ "def", "update_template_context", "(", "self", ",", "context", ")", ":", "funcs", "=", "self", ".", "template_context_processors", "[", "None", "]", "reqctx", "=", "_request_ctx_stack", ".", "top", "if", "reqctx", "is", "not", "None", ":", "bp", "=", "reqctx", ".", "request", ".", "blueprint", "if", "bp", "is", "not", "None", "and", "bp", "in", "self", ".", "template_context_processors", ":", "funcs", "=", "chain", "(", "funcs", ",", "self", ".", "template_context_processors", "[", "bp", "]", ")", "orig_ctx", "=", "context", ".", "copy", "(", ")", "for", "func", "in", "funcs", ":", "context", ".", "update", "(", "func", "(", ")", ")", "# make sure the original values win. This makes it possible to", "# easier add new variables in context processors without breaking", "# existing views.", "context", ".", "update", "(", "orig_ctx", ")" ]

[ 744, 4 ]

[ 767, 32 ]

[ "def", "make_shell_context", "(", "self", ")", ":", "rv", "=", "{", "'app'", ":", "self", ",", "'g'", ":", "g", "}", "for", "processor", "in", "self", ".", "shell_context_processors", ":", "rv", ".", "update", "(", "processor", "(", ")", ")", "return", "rv" ]

[ 769, 4 ]

[ 779, 17 ]

[ "def", "run", "(", "self", ",", "host", "=", "None", ",", "port", "=", "None", ",", "debug", "=", "None", ",", "*", "*", "options", ")", ":", "from", "werkzeug", ".", "serving", "import", "run_simple", "if", "host", "is", "None", ":", "host", "=", "'127.0.0.1'", "if", "port", "is", "None", ":", "server_name", "=", "self", ".", "config", "[", "'SERVER_NAME'", "]", "if", "server_name", "and", "':'", "in", "server_name", ":", "port", "=", "int", "(", "server_name", ".", "rsplit", "(", "':'", ",", "1", ")", "[", "1", "]", ")", "else", ":", "port", "=", "5000", "if", "debug", "is", "not", "None", ":", "self", ".", "debug", "=", "bool", "(", "debug", ")", "options", ".", "setdefault", "(", "'use_reloader'", ",", "self", ".", "debug", ")", "options", ".", "setdefault", "(", "'use_debugger'", ",", "self", ".", "debug", ")", "try", ":", "run_simple", "(", "host", ",", "port", ",", "self", ",", "*", "*", "options", ")", "finally", ":", "# reset the first request information if the development server", "# reset normally. This makes it possible to restart the server", "# without reloader and that stuff from an interactive shell.", "self", ".", "_got_first_request", "=", "False" ]

[ 781, 4 ]

[ 845, 43 ]

[ "def", "test_client", "(", "self", ",", "use_cookies", "=", "True", ",", "*", "*", "kwargs", ")", ":", "cls", "=", "self", ".", "test_client_class", "if", "cls", "is", "None", ":", "from", "flask", ".", "testing", "import", "FlaskClient", "as", "cls", "return", "cls", "(", "self", ",", "self", ".", "response_class", ",", "use_cookies", "=", "use_cookies", ",", "*", "*", "kwargs", ")" ]

[ 847, 4 ]

[ 901, 80 ]

[ "def", "open_session", "(", "self", ",", "request", ")", ":", "return", "self", ".", "session_interface", ".", "open_session", "(", "self", ",", "request", ")" ]

[ 903, 4 ]

[ 911, 65 ]

[ "def", "save_session", "(", "self", ",", "session", ",", "response", ")", ":", "return", "self", ".", "session_interface", ".", "save_session", "(", "self", ",", "session", ",", "response", ")" ]

[ 913, 4 ]

[ 923, 75 ]

[ "def", "make_null_session", "(", "self", ")", ":", "return", "self", ".", "session_interface", ".", "make_null_session", "(", "self", ")" ]

[ 925, 4 ]

[ 931, 61 ]

[ "def", "register_blueprint", "(", "self", ",", "blueprint", ",", "*", "*", "options", ")", ":", "first_registration", "=", "False", "if", "blueprint", ".", "name", "in", "self", ".", "blueprints", ":", "assert", "self", ".", "blueprints", "[", "blueprint", ".", "name", "]", "is", "blueprint", ",", "'A blueprint\\'s name collision occurred between %r and '", "'%r. Both share the same name \"%s\". Blueprints that '", "'are created on the fly need unique names.'", "%", "(", "blueprint", ",", "self", ".", "blueprints", "[", "blueprint", ".", "name", "]", ",", "blueprint", ".", "name", ")", "else", ":", "self", ".", "blueprints", "[", "blueprint", ".", "name", "]", "=", "blueprint", "self", ".", "_blueprint_order", ".", "append", "(", "blueprint", ")", "first_registration", "=", "True", "blueprint", ".", "register", "(", "self", ",", "options", ",", "first_registration", ")" ]

[ 934, 4 ]

[ 950, 61 ]

[ "def", "iter_blueprints", "(", "self", ")", ":", "return", "iter", "(", "self", ".", "_blueprint_order", ")" ]

[ 952, 4 ]

[ 957, 42 ]

[ "def", "add_url_rule", "(", "self", ",", "rule", ",", "endpoint", "=", "None", ",", "view_func", "=", "None", ",", "*", "*", "options", ")", ":", "if", "endpoint", "is", "None", ":", "endpoint", "=", "_endpoint_from_view_func", "(", "view_func", ")", "options", "[", "'endpoint'", "]", "=", "endpoint", "methods", "=", "options", ".", "pop", "(", "'methods'", ",", "None", ")", "# if the methods are not given and the view_func object knows its", "# methods we can use that instead. If neither exists, we go with", "# a tuple of only ``GET`` as default.", "if", "methods", "is", "None", ":", "methods", "=", "getattr", "(", "view_func", ",", "'methods'", ",", "None", ")", "or", "(", "'GET'", ",", ")", "if", "isinstance", "(", "methods", ",", "string_types", ")", ":", "raise", "TypeError", "(", "'Allowed methods have to be iterables of strings, '", "'for example: @app.route(..., methods=[\"POST\"])'", ")", "methods", "=", "set", "(", "item", ".", "upper", "(", ")", "for", "item", "in", "methods", ")", "# Methods that should always be added", "required_methods", "=", "set", "(", "getattr", "(", "view_func", ",", "'required_methods'", ",", "(", ")", ")", ")", "# starting with Flask 0.8 the view_func object can disable and", "# force-enable the automatic options handling.", "provide_automatic_options", "=", "getattr", "(", "view_func", ",", "'provide_automatic_options'", ",", "None", ")", "if", "provide_automatic_options", "is", "None", ":", "if", "'OPTIONS'", "not", "in", "methods", ":", "provide_automatic_options", "=", "True", "required_methods", ".", "add", "(", "'OPTIONS'", ")", "else", ":", "provide_automatic_options", "=", "False", "# Add the required methods now.", "methods", "|=", "required_methods", "rule", "=", "self", ".", "url_rule_class", "(", "rule", ",", "methods", "=", "methods", ",", "*", "*", "options", ")", "rule", ".", "provide_automatic_options", "=", "provide_automatic_options", "self", ".", "url_map", ".", "add", "(", "rule", ")", "if", "view_func", "is", "not", "None", ":", "old_func", "=", "self", ".", "view_functions", ".", "get", "(", "endpoint", ")", "if", "old_func", "is", "not", "None", "and", "old_func", "!=", "view_func", ":", "raise", "AssertionError", "(", "'View function mapping is overwriting an '", "'existing endpoint function: %s'", "%", "endpoint", ")", "self", ".", "view_functions", "[", "endpoint", "]", "=", "view_func" ]

[ 960, 4 ]

[ 1051, 53 ]

[ "def", "route", "(", "self", ",", "rule", ",", "*", "*", "options", ")", ":", "def", "decorator", "(", "f", ")", ":", "endpoint", "=", "options", ".", "pop", "(", "'endpoint'", ",", "None", ")", "self", ".", "add_url_rule", "(", "rule", ",", "endpoint", ",", "f", ",", "*", "*", "options", ")", "return", "f", "return", "decorator" ]

[ 1053, 4 ]

[ 1081, 24 ]

[ "def", "endpoint", "(", "self", ",", "endpoint", ")", ":", "def", "decorator", "(", "f", ")", ":", "self", ".", "view_functions", "[", "endpoint", "]", "=", "f", "return", "f", "return", "decorator" ]

[ 1084, 4 ]

[ 1097, 24 ]

[ "def", "_get_exc_class_and_code", "(", "exc_class_or_code", ")", ":", "if", "isinstance", "(", "exc_class_or_code", ",", "integer_types", ")", ":", "exc_class", "=", "default_exceptions", "[", "exc_class_or_code", "]", "else", ":", "exc_class", "=", "exc_class_or_code", "assert", "issubclass", "(", "exc_class", ",", "Exception", ")", "if", "issubclass", "(", "exc_class", ",", "HTTPException", ")", ":", "return", "exc_class", ",", "exc_class", ".", "code", "else", ":", "return", "exc_class", ",", "None" ]

[ 1100, 4 ]

[ 1112, 34 ]

[ "def", "errorhandler", "(", "self", ",", "code_or_exception", ")", ":", "def", "decorator", "(", "f", ")", ":", "self", ".", "_register_error_handler", "(", "None", ",", "code_or_exception", ",", "f", ")", "return", "f", "return", "decorator" ]

[ 1115, 4 ]

[ 1160, 24 ]

[ "def", "register_error_handler", "(", "self", ",", "code_or_exception", ",", "f", ")", ":", "self", ".", "_register_error_handler", "(", "None", ",", "code_or_exception", ",", "f", ")" ]

[ 1162, 4 ]

[ 1169, 64 ]

[ "def", "_register_error_handler", "(", "self", ",", "key", ",", "code_or_exception", ",", "f", ")", ":", "if", "isinstance", "(", "code_or_exception", ",", "HTTPException", ")", ":", "# old broken behavior", "raise", "ValueError", "(", "'Tried to register a handler for an exception instance {0!r}. '", "'Handlers can only be registered for exception classes or HTTP error codes.'", ".", "format", "(", "code_or_exception", ")", ")", "exc_class", ",", "code", "=", "self", ".", "_get_exc_class_and_code", "(", "code_or_exception", ")", "handlers", "=", "self", ".", "error_handler_spec", ".", "setdefault", "(", "key", ",", "{", "}", ")", ".", "setdefault", "(", "code", ",", "{", "}", ")", "handlers", "[", "exc_class", "]", "=", "f" ]

[ 1172, 4 ]

[ 1187, 31 ]

[ "def", "template_filter", "(", "self", ",", "name", "=", "None", ")", ":", "def", "decorator", "(", "f", ")", ":", "self", ".", "add_template_filter", "(", "f", ",", "name", "=", "name", ")", "return", "f", "return", "decorator" ]

[ 1190, 4 ]

[ 1205, 24 ]

[ "def", "add_template_filter", "(", "self", ",", "f", ",", "name", "=", "None", ")", ":", "self", ".", "jinja_env", ".", "filters", "[", "name", "or", "f", ".", "__name__", "]", "=", "f" ]

[ 1208, 4 ]

[ 1215, 54 ]

[ "def", "template_test", "(", "self", ",", "name", "=", "None", ")", ":", "def", "decorator", "(", "f", ")", ":", "self", ".", "add_template_test", "(", "f", ",", "name", "=", "name", ")", "return", "f", "return", "decorator" ]

[ 1218, 4 ]

[ 1240, 24 ]

[ "def", "add_template_test", "(", "self", ",", "f", ",", "name", "=", "None", ")", ":", "self", ".", "jinja_env", ".", "tests", "[", "name", "or", "f", ".", "__name__", "]", "=", "f" ]

[ 1243, 4 ]

[ 1252, 52 ]

[ "def", "template_global", "(", "self", ",", "name", "=", "None", ")", ":", "def", "decorator", "(", "f", ")", ":", "self", ".", "add_template_global", "(", "f", ",", "name", "=", "name", ")", "return", "f", "return", "decorator" ]

[ 1255, 4 ]

[ 1272, 24 ]

[ "def", "add_template_global", "(", "self", ",", "f", ",", "name", "=", "None", ")", ":", "self", ".", "jinja_env", ".", "globals", "[", "name", "or", "f", ".", "__name__", "]", "=", "f" ]

[ 1275, 4 ]

[ 1284, 54 ]

[ "def", "before_request", "(", "self", ",", "f", ")", ":", "self", ".", "before_request_funcs", ".", "setdefault", "(", "None", ",", "[", "]", ")", ".", "append", "(", "f", ")", "return", "f" ]

[ 1287, 4 ]

[ 1296, 16 ]

[ "def", "before_first_request", "(", "self", ",", "f", ")", ":", "self", ".", "before_first_request_funcs", ".", "append", "(", "f", ")", "return", "f" ]

[ 1299, 4 ]

[ 1309, 16 ]

[ "def", "after_request", "(", "self", ",", "f", ")", ":", "self", ".", "after_request_funcs", ".", "setdefault", "(", "None", ",", "[", "]", ")", ".", "append", "(", "f", ")", "return", "f" ]

[ 1312, 4 ]

[ 1323, 16 ]

[ "def", "teardown_request", "(", "self", ",", "f", ")", ":", "self", ".", "teardown_request_funcs", ".", "setdefault", "(", "None", ",", "[", "]", ")", ".", "append", "(", "f", ")", "return", "f" ]

[ 1326, 4 ]

[ 1362, 16 ]

[ "def", "teardown_appcontext", "(", "self", ",", "f", ")", ":", "self", ".", "teardown_appcontext_funcs", ".", "append", "(", "f", ")", "return", "f" ]

[ 1365, 4 ]

[ 1393, 16 ]

[ "def", "context_processor", "(", "self", ",", "f", ")", ":", "self", ".", "template_context_processors", "[", "None", "]", ".", "append", "(", "f", ")", "return", "f" ]

[ 1396, 4 ]

[ 1399, 16 ]

[ "def", "shell_context_processor", "(", "self", ",", "f", ")", ":", "self", ".", "shell_context_processors", ".", "append", "(", "f", ")", "return", "f" ]

[ 1402, 4 ]

[ 1408, 16 ]

[ "def", "url_value_preprocessor", "(", "self", ",", "f", ")", ":", "self", ".", "url_value_preprocessors", ".", "setdefault", "(", "None", ",", "[", "]", ")", ".", "append", "(", "f", ")", "return", "f" ]

[ 1411, 4 ]

[ 1417, 16 ]

[ "def", "url_defaults", "(", "self", ",", "f", ")", ":", "self", ".", "url_default_functions", ".", "setdefault", "(", "None", ",", "[", "]", ")", ".", "append", "(", "f", ")", "return", "f" ]

[ 1420, 4 ]

[ 1426, 16 ]

[ "def", "_find_error_handler", "(", "self", ",", "e", ")", ":", "exc_class", ",", "code", "=", "self", ".", "_get_exc_class_and_code", "(", "type", "(", "e", ")", ")", "def", "find_handler", "(", "handler_map", ")", ":", "if", "not", "handler_map", ":", "return", "for", "cls", "in", "exc_class", ".", "__mro__", ":", "handler", "=", "handler_map", ".", "get", "(", "cls", ")", "if", "handler", "is", "not", "None", ":", "# cache for next time exc_class is raised", "handler_map", "[", "exc_class", "]", "=", "handler", "return", "handler", "# try blueprint handlers", "handler", "=", "find_handler", "(", "self", ".", "error_handler_spec", ".", "get", "(", "request", ".", "blueprint", ",", "{", "}", ")", ".", "get", "(", "code", ")", ")", "if", "handler", "is", "not", "None", ":", "return", "handler", "# fall back to app handlers", "return", "find_handler", "(", "self", ".", "error_handler_spec", "[", "None", "]", ".", "get", "(", "code", ")", ")" ]

[ 1428, 4 ]

[ 1453, 68 ]

[ "def", "handle_http_exception", "(", "self", ",", "e", ")", ":", "# Proxy exceptions don't have error codes. We want to always return", "# those unchanged as errors", "if", "e", ".", "code", "is", "None", ":", "return", "e", "handler", "=", "self", ".", "_find_error_handler", "(", "e", ")", "if", "handler", "is", "None", ":", "return", "e", "return", "handler", "(", "e", ")" ]

[ 1455, 4 ]

[ 1470, 25 ]

[ "def", "trap_http_exception", "(", "self", ",", "e", ")", ":", "if", "self", ".", "config", "[", "'TRAP_HTTP_EXCEPTIONS'", "]", ":", "return", "True", "if", "self", ".", "config", "[", "'TRAP_BAD_REQUEST_ERRORS'", "]", ":", "return", "isinstance", "(", "e", ",", "BadRequest", ")", "return", "False" ]

[ 1472, 4 ]

[ 1490, 20 ]

[ "def", "handle_user_exception", "(", "self", ",", "e", ")", ":", "exc_type", ",", "exc_value", ",", "tb", "=", "sys", ".", "exc_info", "(", ")", "assert", "exc_value", "is", "e", "# ensure not to trash sys.exc_info() at that point in case someone", "# wants the traceback preserved in handle_http_exception. Of course", "# we cannot prevent users from trashing it themselves in a custom", "# trap_http_exception method so that's their fault then.", "if", "isinstance", "(", "e", ",", "HTTPException", ")", "and", "not", "self", ".", "trap_http_exception", "(", "e", ")", ":", "return", "self", ".", "handle_http_exception", "(", "e", ")", "handler", "=", "self", ".", "_find_error_handler", "(", "e", ")", "if", "handler", "is", "None", ":", "reraise", "(", "exc_type", ",", "exc_value", ",", "tb", ")", "return", "handler", "(", "e", ")" ]

[ 1492, 4 ]

[ 1517, 25 ]

[ "def", "handle_exception", "(", "self", ",", "e", ")", ":", "exc_type", ",", "exc_value", ",", "tb", "=", "sys", ".", "exc_info", "(", ")", "got_request_exception", ".", "send", "(", "self", ",", "exception", "=", "e", ")", "handler", "=", "self", ".", "_find_error_handler", "(", "InternalServerError", "(", ")", ")", "if", "self", ".", "propagate_exceptions", ":", "# if we want to repropagate the exception, we can attempt to", "# raise it with the whole traceback in case we can do that", "# (the function was actually called from the except part)", "# otherwise, we just raise the error again", "if", "exc_value", "is", "e", ":", "reraise", "(", "exc_type", ",", "exc_value", ",", "tb", ")", "else", ":", "raise", "e", "self", ".", "log_exception", "(", "(", "exc_type", ",", "exc_value", ",", "tb", ")", ")", "if", "handler", "is", "None", ":", "return", "InternalServerError", "(", ")", "return", "self", ".", "finalize_request", "(", "handler", "(", "e", ")", ",", "from_error_handler", "=", "True", ")" ]

[ 1519, 4 ]

[ 1546, 73 ]

[ "def", "log_exception", "(", "self", ",", "exc_info", ")", ":", "self", ".", "logger", ".", "error", "(", "'Exception on %s [%s]'", "%", "(", "request", ".", "path", ",", "request", ".", "method", ")", ",", "exc_info", "=", "exc_info", ")" ]

[ 1548, 4 ]

[ 1559, 29 ]

[ "def", "raise_routing_exception", "(", "self", ",", "request", ")", ":", "if", "not", "self", ".", "debug", "or", "not", "isinstance", "(", "request", ".", "routing_exception", ",", "RequestRedirect", ")", "or", "request", ".", "method", "in", "(", "'GET'", ",", "'HEAD'", ",", "'OPTIONS'", ")", ":", "raise", "request", ".", "routing_exception", "from", ".", "debughelpers", "import", "FormDataRoutingRedirect", "raise", "FormDataRoutingRedirect", "(", "request", ")" ]

[ 1561, 4 ]

[ 1575, 46 ]

[ "def", "dispatch_request", "(", "self", ")", ":", "req", "=", "_request_ctx_stack", ".", "top", ".", "request", "if", "req", ".", "routing_exception", "is", "not", "None", ":", "self", ".", "raise_routing_exception", "(", "req", ")", "rule", "=", "req", ".", "url_rule", "# if we provide automatic options for this URL and the", "# request came with the OPTIONS method, reply automatically", "if", "getattr", "(", "rule", ",", "'provide_automatic_options'", ",", "False", ")", "and", "req", ".", "method", "==", "'OPTIONS'", ":", "return", "self", ".", "make_default_options_response", "(", ")", "# otherwise dispatch to the handler for that endpoint", "return", "self", ".", "view_functions", "[", "rule", ".", "endpoint", "]", "(", "*", "*", "req", ".", "view_args", ")" ]

[ 1577, 4 ]

[ 1597, 66 ]

[ "def", "full_dispatch_request", "(", "self", ")", ":", "self", ".", "try_trigger_before_first_request_functions", "(", ")", "try", ":", "request_started", ".", "send", "(", "self", ")", "rv", "=", "self", ".", "preprocess_request", "(", ")", "if", "rv", "is", "None", ":", "rv", "=", "self", ".", "dispatch_request", "(", ")", "except", "Exception", "as", "e", ":", "rv", "=", "self", ".", "handle_user_exception", "(", "e", ")", "return", "self", ".", "finalize_request", "(", "rv", ")" ]

[ 1599, 4 ]

[ 1614, 40 ]

[ "def", "finalize_request", "(", "self", ",", "rv", ",", "from_error_handler", "=", "False", ")", ":", "response", "=", "self", ".", "make_response", "(", "rv", ")", "try", ":", "response", "=", "self", ".", "process_response", "(", "response", ")", "request_finished", ".", "send", "(", "self", ",", "response", "=", "response", ")", "except", "Exception", ":", "if", "not", "from_error_handler", ":", "raise", "self", ".", "logger", ".", "exception", "(", "'Request finalizing failed with an '", "'error while handling an error'", ")", "return", "response" ]

[ 1616, 4 ]

[ 1638, 23 ]

[ "def", "try_trigger_before_first_request_functions", "(", "self", ")", ":", "if", "self", ".", "_got_first_request", ":", "return", "with", "self", ".", "_before_request_lock", ":", "if", "self", ".", "_got_first_request", ":", "return", "for", "func", "in", "self", ".", "before_first_request_funcs", ":", "func", "(", ")", "self", ".", "_got_first_request", "=", "True" ]

[ 1640, 4 ]

[ 1654, 42 ]

[ "def", "make_default_options_response", "(", "self", ")", ":", "adapter", "=", "_request_ctx_stack", ".", "top", ".", "url_adapter", "if", "hasattr", "(", "adapter", ",", "'allowed_methods'", ")", ":", "methods", "=", "adapter", ".", "allowed_methods", "(", ")", "else", ":", "# fallback for Werkzeug < 0.7", "methods", "=", "[", "]", "try", ":", "adapter", ".", "match", "(", "method", "=", "'--'", ")", "except", "MethodNotAllowed", "as", "e", ":", "methods", "=", "e", ".", "valid_methods", "except", "HTTPException", "as", "e", ":", "pass", "rv", "=", "self", ".", "response_class", "(", ")", "rv", ".", "allow", ".", "update", "(", "methods", ")", "return", "rv" ]

[ 1656, 4 ]

[ 1677, 17 ]

[ "def", "should_ignore_error", "(", "self", ",", "error", ")", ":", "return", "False" ]

[ 1679, 4 ]

[ 1687, 20 ]

[ "def", "make_response", "(", "self", ",", "rv", ")", ":", "status_or_headers", "=", "headers", "=", "None", "if", "isinstance", "(", "rv", ",", "tuple", ")", ":", "rv", ",", "status_or_headers", ",", "headers", "=", "rv", "+", "(", "None", ",", ")", "*", "(", "3", "-", "len", "(", "rv", ")", ")", "if", "rv", "is", "None", ":", "raise", "ValueError", "(", "'View function did not return a response'", ")", "if", "isinstance", "(", "status_or_headers", ",", "(", "dict", ",", "list", ")", ")", ":", "headers", ",", "status_or_headers", "=", "status_or_headers", ",", "None", "if", "not", "isinstance", "(", "rv", ",", "self", ".", "response_class", ")", ":", "# When we create a response object directly, we let the constructor", "# set the headers and status. We do this because there can be", "# some extra logic involved when creating these objects with", "# specific values (like default content type selection).", "if", "isinstance", "(", "rv", ",", "(", "text_type", ",", "bytes", ",", "bytearray", ")", ")", ":", "rv", "=", "self", ".", "response_class", "(", "rv", ",", "headers", "=", "headers", ",", "status", "=", "status_or_headers", ")", "headers", "=", "status_or_headers", "=", "None", "else", ":", "rv", "=", "self", ".", "response_class", ".", "force_type", "(", "rv", ",", "request", ".", "environ", ")", "if", "status_or_headers", "is", "not", "None", ":", "if", "isinstance", "(", "status_or_headers", ",", "string_types", ")", ":", "rv", ".", "status", "=", "status_or_headers", "else", ":", "rv", ".", "status_code", "=", "status_or_headers", "if", "headers", ":", "rv", ".", "headers", ".", "extend", "(", "headers", ")", "return", "rv" ]

[ 1689, 4 ]

[ 1749, 17 ]

[ "def", "create_url_adapter", "(", "self", ",", "request", ")", ":", "if", "request", "is", "not", "None", ":", "return", "self", ".", "url_map", ".", "bind_to_environ", "(", "request", ".", "environ", ",", "server_name", "=", "self", ".", "config", "[", "'SERVER_NAME'", "]", ")", "# We need at the very least the server name to be set for this", "# to work.", "if", "self", ".", "config", "[", "'SERVER_NAME'", "]", "is", "not", "None", ":", "return", "self", ".", "url_map", ".", "bind", "(", "self", ".", "config", "[", "'SERVER_NAME'", "]", ",", "script_name", "=", "self", ".", "config", "[", "'APPLICATION_ROOT'", "]", "or", "'/'", ",", "url_scheme", "=", "self", ".", "config", "[", "'PREFERRED_URL_SCHEME'", "]", ")" ]

[ 1751, 4 ]

[ 1771, 63 ]

[ "def", "inject_url_defaults", "(", "self", ",", "endpoint", ",", "values", ")", ":", "funcs", "=", "self", ".", "url_default_functions", ".", "get", "(", "None", ",", "(", ")", ")", "if", "'.'", "in", "endpoint", ":", "bp", "=", "endpoint", ".", "rsplit", "(", "'.'", ",", "1", ")", "[", "0", "]", "funcs", "=", "chain", "(", "funcs", ",", "self", ".", "url_default_functions", ".", "get", "(", "bp", ",", "(", ")", ")", ")", "for", "func", "in", "funcs", ":", "func", "(", "endpoint", ",", "values", ")" ]

[ 1773, 4 ]

[ 1785, 34 ]

[ "def", "handle_url_build_error", "(", "self", ",", "error", ",", "endpoint", ",", "values", ")", ":", "exc_type", ",", "exc_value", ",", "tb", "=", "sys", ".", "exc_info", "(", ")", "for", "handler", "in", "self", ".", "url_build_error_handlers", ":", "try", ":", "rv", "=", "handler", "(", "error", ",", "endpoint", ",", "values", ")", "if", "rv", "is", "not", "None", ":", "return", "rv", "except", "BuildError", "as", "e", ":", "# make error available outside except block (py3)", "error", "=", "e", "# At this point we want to reraise the exception. If the error is", "# still the same one we can reraise it with the original traceback,", "# otherwise we raise it from here.", "if", "error", "is", "exc_value", ":", "reraise", "(", "exc_type", ",", "exc_value", ",", "tb", ")", "raise", "error" ]

[ 1787, 4 ]

[ 1805, 19 ]

[ "def", "preprocess_request", "(", "self", ")", ":", "bp", "=", "_request_ctx_stack", ".", "top", ".", "request", ".", "blueprint", "funcs", "=", "self", ".", "url_value_preprocessors", ".", "get", "(", "None", ",", "(", ")", ")", "if", "bp", "is", "not", "None", "and", "bp", "in", "self", ".", "url_value_preprocessors", ":", "funcs", "=", "chain", "(", "funcs", ",", "self", ".", "url_value_preprocessors", "[", "bp", "]", ")", "for", "func", "in", "funcs", ":", "func", "(", "request", ".", "endpoint", ",", "request", ".", "view_args", ")", "funcs", "=", "self", ".", "before_request_funcs", ".", "get", "(", "None", ",", "(", ")", ")", "if", "bp", "is", "not", "None", "and", "bp", "in", "self", ".", "before_request_funcs", ":", "funcs", "=", "chain", "(", "funcs", ",", "self", ".", "before_request_funcs", "[", "bp", "]", ")", "for", "func", "in", "funcs", ":", "rv", "=", "func", "(", ")", "if", "rv", "is", "not", "None", ":", "return", "rv" ]

[ 1807, 4 ]

[ 1832, 25 ]

[ "def", "process_response", "(", "self", ",", "response", ")", ":", "ctx", "=", "_request_ctx_stack", ".", "top", "bp", "=", "ctx", ".", "request", ".", "blueprint", "funcs", "=", "ctx", ".", "_after_request_functions", "if", "bp", "is", "not", "None", "and", "bp", "in", "self", ".", "after_request_funcs", ":", "funcs", "=", "chain", "(", "funcs", ",", "reversed", "(", "self", ".", "after_request_funcs", "[", "bp", "]", ")", ")", "if", "None", "in", "self", ".", "after_request_funcs", ":", "funcs", "=", "chain", "(", "funcs", ",", "reversed", "(", "self", ".", "after_request_funcs", "[", "None", "]", ")", ")", "for", "handler", "in", "funcs", ":", "response", "=", "handler", "(", "response", ")", "if", "not", "self", ".", "session_interface", ".", "is_null_session", "(", "ctx", ".", "session", ")", ":", "self", ".", "save_session", "(", "ctx", ".", "session", ",", "response", ")", "return", "response" ]

[ 1834, 4 ]

[ 1858, 23 ]

[ "def", "do_teardown_request", "(", "self", ",", "exc", "=", "_sentinel", ")", ":", "if", "exc", "is", "_sentinel", ":", "exc", "=", "sys", ".", "exc_info", "(", ")", "[", "1", "]", "funcs", "=", "reversed", "(", "self", ".", "teardown_request_funcs", ".", "get", "(", "None", ",", "(", ")", ")", ")", "bp", "=", "_request_ctx_stack", ".", "top", ".", "request", ".", "blueprint", "if", "bp", "is", "not", "None", "and", "bp", "in", "self", ".", "teardown_request_funcs", ":", "funcs", "=", "chain", "(", "funcs", ",", "reversed", "(", "self", ".", "teardown_request_funcs", "[", "bp", "]", ")", ")", "for", "func", "in", "funcs", ":", "func", "(", "exc", ")", "request_tearing_down", ".", "send", "(", "self", ",", "exc", "=", "exc", ")" ]

[ 1860, 4 ]

[ 1879, 48 ]

[ "def", "do_teardown_appcontext", "(", "self", ",", "exc", "=", "_sentinel", ")", ":", "if", "exc", "is", "_sentinel", ":", "exc", "=", "sys", ".", "exc_info", "(", ")", "[", "1", "]", "for", "func", "in", "reversed", "(", "self", ".", "teardown_appcontext_funcs", ")", ":", "func", "(", "exc", ")", "appcontext_tearing_down", ".", "send", "(", "self", ",", "exc", "=", "exc", ")" ]

[ 1881, 4 ]

[ 1892, 51 ]

[ "def", "app_context", "(", "self", ")", ":", "return", "AppContext", "(", "self", ")" ]

[ 1894, 4 ]

[ 1907, 31 ]

[ "def", "request_context", "(", "self", ",", "environ", ")", ":", "return", "RequestContext", "(", "self", ",", "environ", ")" ]

[ 1909, 4 ]

[ 1937, 44 ]

[ "def", "test_request_context", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "from", "flask", ".", "testing", "import", "make_test_environ_builder", "builder", "=", "make_test_environ_builder", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", "try", ":", "return", "self", ".", "request_context", "(", "builder", ".", "get_environ", "(", ")", ")", "finally", ":", "builder", ".", "close", "(", ")" ]

[ 1939, 4 ]

[ 1949, 27 ]

[ "def", "wsgi_app", "(", "self", ",", "environ", ",", "start_response", ")", ":", "ctx", "=", "self", ".", "request_context", "(", "environ", ")", "ctx", ".", "push", "(", ")", "error", "=", "None", "try", ":", "try", ":", "response", "=", "self", ".", "full_dispatch_request", "(", ")", "except", "Exception", "as", "e", ":", "error", "=", "e", "response", "=", "self", ".", "handle_exception", "(", "e", ")", "except", ":", "error", "=", "sys", ".", "exc_info", "(", ")", "[", "1", "]", "raise", "return", "response", "(", "environ", ",", "start_response", ")", "finally", ":", "if", "self", ".", "should_ignore_error", "(", "error", ")", ":", "error", "=", "None", "ctx", ".", "auto_pop", "(", "error", ")" ]

[ 1951, 4 ]

[ 1992, 31 ]

[ "def", "__call__", "(", "self", ",", "environ", ",", "start_response", ")", ":", "return", "self", ".", "wsgi_app", "(", "environ", ",", "start_response", ")" ]

[ 1994, 4 ]

[ 1996, 53 ]

[ "def", "extract_resources", "(", "taxonomy_filepath", ")", ":", "try", ":", "with", "open", "(", "taxonomy_filepath", ",", "'r'", ")", "as", "fp", ":", "json_str", "=", "fp", ".", "read", "(", ")", "json_data", "=", "json", ".", "loads", "(", "json_str", ")", "root", "=", "DictImporter", "(", ")", ".", "import_", "(", "json_data", ")", "finally", ":", "fp", ".", "close", "(", ")", "return", "root" ]

[ 50, 0 ]

[ 66, 15 ]

[ "def", "read_users", "(", "users_fp", ")", ":", "users", "=", "[", "]", "with", "open", "(", "users_fp", ",", "'r'", ")", "as", "fp", ":", "fields", "=", "fp", ".", "readline", "(", ")", ".", "rstrip", "(", ")", ".", "split", "(", "\",\"", ")", "for", "line", "in", "fp", ":", "user", "=", "dict", "(", "zip", "(", "fields", ",", "line", ".", "rstrip", "(", ")", ".", "split", "(", "\",\"", ")", ")", ")", "users", ".", "append", "(", "user", ")", "return", "users" ]

[ 69, 0 ]

[ 82, 16 ]

[ "def", "sleep_then_publish_burst", "(", "burst", ",", "publisher", ",", "topic_path", ")", ":", "sleep_secs", "=", "random", ".", "uniform", "(", "0", ",", "max_lag_millis", "/", "1000", ")", "time", ".", "sleep", "(", "sleep_secs", ")", "publish_burst", "(", "burst", ",", "publisher", ",", "topic_path", ")" ]

[ 84, 0 ]

[ 96, 47 ]

[ "def", "publish_burst", "(", "burst", ",", "publisher", ",", "topic_path", ")", ":", "for", "event_dict", "in", "burst", ":", "json_str", "=", "json", ".", "dumps", "(", "event_dict", ")", "data", "=", "json_str", ".", "encode", "(", "'utf-8'", ")", "publisher", ".", "publish", "(", "topic_path", ",", "data", "=", "data", ",", "timestamp", "=", "event_dict", "[", "'timestamp'", "]", ")" ]

[ 98, 0 ]

[ 111, 83 ]

[ "def", "create_user_process", "(", "user", ",", "root", ")", ":", "publisher", "=", "pubsub_v1", ".", "PublisherClient", "(", ")", "topic_path", "=", "publisher", ".", "topic_path", "(", "project_id", ",", "topic_name", ")", "user", "[", "'page'", "]", "=", "root", "user", "[", "'is_online'", "]", "=", "True", "user", "[", "'offline_events'", "]", "=", "[", "]", "while", "True", ":", "time_between_events", "=", "random", ".", "uniform", "(", "0", ",", "avg_secs_between_events", "*", "2", ")", "time", ".", "sleep", "(", "time_between_events", ")", "prob", "=", "random", ".", "random", "(", ")", "event", "=", "generate_event", "(", "user", ")", "if", "user", "[", "'is_online'", "]", ":", "if", "prob", "<", "online_to_offline_probability", ":", "user", "[", "'is_online'", "]", "=", "False", "user", "[", "'offline_events'", "]", "=", "[", "event", "]", "else", ":", "sleep_then_publish_burst", "(", "[", "event", "]", ",", "publisher", ",", "topic_path", ")", "else", ":", "user", "[", "'offline_events'", "]", ".", "append", "(", "event", ")", "if", "prob", "<", "offline_to_online_probability", ":", "user", "[", "'is_online'", "]", "=", "True", "sleep_then_publish_burst", "(", "user", "[", "'offline_events'", "]", ",", "publisher", ",", "topic_path", ")", "user", "[", "'offline_events'", "]", "=", "[", "]" ]

[ 113, 0 ]

[ 145, 43 ]

[ "def", "generate_event", "(", "user", ")", ":", "user", "[", "'page'", "]", "=", "get_next_page", "(", "user", ")", "uri", "=", "str", "(", "user", "[", "'page'", "]", ".", "name", ")", "event_time", "=", "datetime", ".", "now", "(", "tz", "=", "timezone", ".", "utc", ")", "current_time_str", "=", "event_time", ".", "strftime", "(", "'%Y-%m-%dT%H:%M:%S.%fZ'", ")", "file_size_bytes", "=", "random", ".", "choice", "(", "range", "(", "min_file_size_bytes", ",", "max_file_size_bytes", ")", ")", "http_request", "=", "\"\\\"{} {} HTTP/1.0\\\"\"", ".", "format", "(", "random", ".", "choice", "(", "verbs", ")", ",", "uri", ")", "http_response", "=", "random", ".", "choice", "(", "responses", ")", "event_values", "=", "[", "user", "[", "'ip'", "]", ",", "user", "[", "'id'", "]", ",", "float", "(", "user", "[", "'lat'", "]", ")", ",", "float", "(", "user", "[", "'lng'", "]", ")", ",", "current_time_str", ",", "http_request", ",", "http_response", ",", "file_size_bytes", ",", "user", "[", "'user_agent'", "]", "]", "return", "dict", "(", "zip", "(", "log_fields", ",", "event_values", ")", ")" ]

[ 147, 0 ]

[ 163, 46 ]

[ "def", "get_next_page", "(", "user", ")", ":", "possible_next_pages", "=", "[", "user", "[", "'page'", "]", "]", "if", "not", "user", "[", "'page'", "]", ".", "is_leaf", ":", "possible_next_pages", "+=", "list", "(", "user", "[", "'page'", "]", ".", "children", ")", "if", "(", "user", "[", "'page'", "]", ".", "parent", "!=", "None", ")", ":", "possible_next_pages", "+=", "[", "user", "[", "'page'", "]", ".", "parent", "]", "next_page", "=", "random", ".", "choice", "(", "possible_next_pages", ")", "return", "next_page" ]

[ 165, 0 ]

[ 177, 20 ]

[ "def", "__init__", "(", "self", ",", "train_file", "=", "None", ",", "test_file", "=", "None", ",", "output_file", "=", "None", ",", "metadata_file", "=", "None", ",", "similarity_file", "=", "None", ",", "k_neighbors", "=", "30", ",", "as_similar_first", "=", "True", ",", "metadata_as_binary", "=", "False", ",", "metadata_similarity_sep", "=", "'\\t'", ",", "similarity_metric", "=", "\"cosine\"", ",", "sep", "=", "'\\t'", ",", "output_sep", "=", "'\\t'", ")", ":", "super", "(", "ItemAttributeKNN", ",", "self", ")", ".", "__init__", "(", "train_file", "=", "train_file", ",", "test_file", "=", "test_file", ",", "output_file", "=", "output_file", ",", "k_neighbors", "=", "k_neighbors", ",", "as_similar_first", "=", "as_similar_first", ",", "sep", "=", "sep", ",", "output_sep", "=", "output_sep", ",", "similarity_metric", "=", "similarity_metric", ")", "self", ".", "recommender_name", "=", "'Item Attribute KNN Algorithm'", "self", ".", "metadata_file", "=", "metadata_file", "self", ".", "similarity_file", "=", "similarity_file", "self", ".", "metadata_as_binary", "=", "metadata_as_binary", "self", ".", "metadata_similarity_sep", "=", "metadata_similarity_sep" ]

[ 23, 4 ]

[ 91, 62 ]

[ "def", "init_model", "(", "self", ")", ":", "self", ".", "similar_items", "=", "defaultdict", "(", "list", ")", "# Set the value for k", "if", "self", ".", "k_neighbors", "is", "None", ":", "self", ".", "k_neighbors", "=", "int", "(", "np", ".", "sqrt", "(", "len", "(", "self", ".", "items", ")", ")", ")", "if", "self", ".", "metadata_file", "is", "not", "None", ":", "metadata", "=", "ReadFile", "(", "self", ".", "metadata_file", ",", "sep", "=", "self", ".", "metadata_similarity_sep", ",", "as_binary", "=", "self", ".", "metadata_as_binary", ")", ".", "read_metadata_or_similarity", "(", ")", "self", ".", "matrix", "=", "np", ".", "zeros", "(", "(", "len", "(", "self", ".", "items", ")", ",", "len", "(", "metadata", "[", "'col_2'", "]", ")", ")", ")", "meta_to_meta_id", "=", "{", "}", "for", "m", ",", "data", "in", "enumerate", "(", "metadata", "[", "'col_2'", "]", ")", ":", "meta_to_meta_id", "[", "data", "]", "=", "m", "for", "item", "in", "metadata", "[", "'col_1'", "]", ":", "for", "m", "in", "metadata", "[", "'dict'", "]", "[", "item", "]", ":", "self", ".", "matrix", "[", "self", ".", "item_to_item_id", "[", "item", "]", ",", "meta_to_meta_id", "[", "m", "]", "]", "=", "metadata", "[", "'dict'", "]", "[", "item", "]", "[", "m", "]", "# create header info for metadata", "sparsity", "=", "(", "1", "-", "(", "metadata", "[", "'number_interactions'", "]", "/", "(", "len", "(", "metadata", "[", "'col_1'", "]", ")", "*", "len", "(", "metadata", "[", "'col_2'", "]", ")", ")", ")", ")", "*", "100", "self", ".", "extra_info_header", "=", "\">> metadata:: %d items and %d metadata (%d interactions) | sparsity:: %.2f%%\"", "%", "(", "len", "(", "metadata", "[", "'col_1'", "]", ")", ",", "len", "(", "metadata", "[", "'col_2'", "]", ")", ",", "metadata", "[", "'number_interactions'", "]", ",", "sparsity", ")", "# Create similarity matrix based on metadata or similarity file. Transpose=False, because it is an", "# item x metadata matrix", "self", ".", "si_matrix", "=", "self", ".", "compute_similarity", "(", "transpose", "=", "False", ")", "elif", "self", ".", "similarity_file", "is", "not", "None", ":", "similarity", "=", "ReadFile", "(", "self", ".", "similarity_file", ",", "sep", "=", "self", ".", "metadata_similarity_sep", ",", "as_binary", "=", "False", ")", ".", "read_metadata_or_similarity", "(", ")", "self", ".", "si_matrix", "=", "np", ".", "zeros", "(", "(", "len", "(", "self", ".", "items", ")", ",", "len", "(", "self", ".", "items", ")", ")", ")", "# Fill similarity matrix", "for", "i", "in", "similarity", "[", "'col_1'", "]", ":", "for", "i_j", "in", "similarity", "[", "'dict'", "]", "[", "i", "]", ":", "self", ".", "si_matrix", "[", "self", ".", "item_to_item_id", "[", "i", "]", ",", "self", ".", "item_to_item_id", "[", "int", "(", "i_j", ")", "]", "]", "=", "similarity", "[", "'dict'", "]", "[", "i", "]", "[", "i_j", "]", "# Remove NaNs", "self", ".", "si_matrix", "[", "np", ".", "isnan", "(", "self", ".", "si_matrix", ")", "]", "=", "0.0", "else", ":", "raise", "ValueError", "(", "\"This algorithm needs a similarity matrix or a metadata file!\"", ")", "# Create original matrix user x item for prediction process", "self", ".", "create_matrix", "(", ")", "for", "i_id", ",", "item", "in", "enumerate", "(", "self", ".", "items", ")", ":", "self", ".", "similar_items", "[", "i_id", "]", "=", "sorted", "(", "range", "(", "len", "(", "self", ".", "si_matrix", "[", "i_id", "]", ")", ")", ",", "key", "=", "lambda", "k", ":", "-", "self", ".", "si_matrix", "[", "i_id", "]", "[", "k", "]", ")", "[", "1", ":", "self", ".", "k_neighbors", "+", "1", "]" ]

[ 93, 4 ]

[ 153, 109 ]

[ "def", "_match_vcs_scheme", "(", "url", ":", "str", ")", "->", "Optional", "[", "str", "]", ":", "for", "scheme", "in", "vcs", ".", "schemes", ":", "if", "url", ".", "lower", "(", ")", ".", "startswith", "(", "scheme", ")", "and", "url", "[", "len", "(", "scheme", ")", "]", "in", "'+:'", ":", "return", "scheme", "return", "None" ]

[ 48, 0 ]

[ 56, 15 ]

[ "def", "_ensure_html_header", "(", "response", ":", "Response", ")", "->", "None", ":", "content_type", "=", "response", ".", "headers", ".", "get", "(", "\"Content-Type\"", ",", "\"\"", ")", "if", "not", "content_type", ".", "lower", "(", ")", ".", "startswith", "(", "\"text/html\"", ")", ":", "raise", "_NotHTML", "(", "content_type", ",", "response", ".", "request", ".", "method", ")" ]

[ 66, 0 ]

[ 73, 61 ]

[ "def", "_ensure_html_response", "(", "url", ":", "str", ",", "session", ":", "PipSession", ")", "->", "None", ":", "scheme", ",", "netloc", ",", "path", ",", "query", ",", "fragment", "=", "urllib", ".", "parse", ".", "urlsplit", "(", "url", ")", "if", "scheme", "not", "in", "{", "'http'", ",", "'https'", "}", ":", "raise", "_NotHTTP", "(", ")", "resp", "=", "session", ".", "head", "(", "url", ",", "allow_redirects", "=", "True", ")", "raise_for_status", "(", "resp", ")", "_ensure_html_header", "(", "resp", ")" ]

[ 80, 0 ]

[ 93, 29 ]

[ "def", "_get_html_response", "(", "url", ":", "str", ",", "session", ":", "PipSession", ")", "->", "Response", ":", "if", "is_archive_file", "(", "Link", "(", "url", ")", ".", "filename", ")", ":", "_ensure_html_response", "(", "url", ",", "session", "=", "session", ")", "logger", ".", "debug", "(", "'Getting page %s'", ",", "redact_auth_from_url", "(", "url", ")", ")", "resp", "=", "session", ".", "get", "(", "url", ",", "headers", "=", "{", "\"Accept\"", ":", "\"text/html\"", ",", "# We don't want to blindly returned cached data for", "# /simple/, because authors generally expecting that", "# twine upload && pip install will function, but if", "# they've done a pip install in the last ~10 minutes", "# it won't. Thus by setting this to zero we will not", "# blindly use any cached data, however the benefit of", "# using max-age=0 instead of no-cache, is that we will", "# still support conditional requests, so we will still", "# minimize traffic sent in cases where the page hasn't", "# changed at all, we will just always incur the round", "# trip for the conditional GET now instead of only", "# once per 10 minutes.", "# For more information, please see pypa/pip#5670.", "\"Cache-Control\"", ":", "\"max-age=0\"", ",", "}", ",", ")", "raise_for_status", "(", "resp", ")", "# The check for archives above only works if the url ends with", "# something that looks like an archive. However that is not a", "# requirement of an url. Unless we issue a HEAD request on every", "# url we cannot know ahead of time for sure if something is HTML", "# or not. However we can check after we've downloaded it.", "_ensure_html_header", "(", "resp", ")", "return", "resp" ]

[ 96, 0 ]

[ 143, 15 ]