Datasets:

---

CM

/

codexglue_code2text_python

like 8

[ "def", "_find_models", "(", "self", ",", "constructor", ",", "table_name", ",", "constraints", "=", "None", ",", "*", ",", "columns", "=", "None", ",", "order_by", "=", "None", ",", "limiting", "=", "None", ")", ":", "for", "record", "in", "self", ".", "find_all", "(", "table_name", ",", "constraints", ",", "columns", "=", "columns", ",", "order_by", "=", "order_by", ",", "limiting", "=", "limiting", ")", ":", "yield", "constructor", "(", "record", ")" ]

[ "Calls", "DataAccess", ".", "find_all", "and", "passes", "the", "results", "to", "the", "given", "constructor", "." ]

[ "def", "find_model", "(", "self", ",", "constructor", ",", "constraints", "=", "None", ",", "*", ",", "columns", "=", "None", ",", "table_name", "=", "None", ",", "order_by", "=", "None", ")", ":", "return", "self", ".", "_find_model", "(", "constructor", ",", "table_name", "or", "constructor", ".", "table_name", ",", "constraints", ",", "columns", "=", "columns", ",", "order_by", "=", "order_by", ")" ]

[ "Specialization", "of", "DataAccess", ".", "find", "that", "returns", "a", "model", "instead", "of", "cursor", "object", "." ]

[ "def", "find_models", "(", "self", ",", "constructor", ",", "constraints", "=", "None", ",", "*", ",", "columns", "=", "None", ",", "order_by", "=", "None", ",", "limiting", "=", "None", ",", "table_name", "=", "None", ")", ":", "return", "self", ".", "_find_models", "(", "constructor", ",", "table_name", "or", "constructor", ".", "table_name", ",", "constraints", ",", "columns", "=", "columns", ",", "order_by", "=", "order_by", ",", "limiting", "=", "limiting", ")" ]

[ "Specialization", "of", "DataAccess", ".", "find_all", "that", "returns", "models", "instead", "of", "cursor", "objects", "." ]

[ "def", "page_models", "(", "self", ",", "constructor", ",", "paging", ",", "constraints", "=", "None", ",", "*", ",", "columns", "=", "None", ",", "order_by", "=", "None", ")", ":", "records", ",", "count", "=", "self", ".", "page", "(", "constructor", ".", "table_name", ",", "paging", ",", "constraints", ",", "columns", "=", "columns", ",", "order_by", "=", "order_by", ")", "return", "(", "[", "constructor", "(", "r", ")", "for", "r", "in", "records", "]", ",", "count", ")" ]

[ "Specialization", "of", "DataAccess", ".", "page", "that", "returns", "models", "instead", "of", "cursor", "objects", "." ]

[ "def", "find_model_by_id", "(", "self", ",", "constructor", ",", "id_", ",", "*", ",", "columns", "=", "None", ")", ":", "return", "self", ".", "find_model", "(", "constructor", ",", "get_id_constraints", "(", "constructor", ".", "primary_key_name", ",", "id_", ")", ",", "columns", "=", "columns", ")" ]

[ "Searches", "for", "a", "model", "by", "id", "according", "to", "its", "class", "primary_key_name", "." ]

[ "def", "refresh_model", "(", "self", ",", "model", ",", "*", ",", "overwrite", "=", "False", ")", ":", "new_model", "=", "self", ".", "find_model_by_id", "(", "model", ".", "__class__", ",", "model", ".", "primary_key", ")", "if", "overwrite", ":", "model", ".", "update", "(", "new_model", ".", "to_dict", "(", "use_default_excludes", "=", "False", ")", ")", "return", "model", "else", ":", "return", "new_model" ]

[ "Pulls", "the", "model", "s", "record", "from", "the", "database", ".", "If", "overwrite", "is", "True", "the", "model", "values", "are", "overwritten", "and", "returns", "the", "model", "otherwise", "a", "new", "model", "instance", "with", "the", "newer", "record", "is", "returned", "." ]

[ "def", "update_model", "(", "self", ",", "model", ",", "*", ",", "include_keys", "=", "None", ")", ":", "id_constraints", "=", "get_model_id_constraints", "(", "model", ")", "if", "include_keys", "is", "None", ":", "include_keys", "=", "set", "(", "model", ".", "attrs", ".", "keys", "(", ")", ")", ".", "difference", "(", "model", ".", "exclude_keys_sql", ")", ".", "difference", "(", "id_constraints", ".", "keys", "(", ")", ")", "# If include_keys was not null but was empty", "if", "not", "include_keys", ":", "return", "model", "values", "=", "model", ".", "to_dict", "(", "include_keys", "=", "include_keys", ")", "returnings", "=", "[", "]", "_", ",", "updated_ts", "=", "model", ".", "timestamps", "if", "model", ".", "timestamps", "else", "(", "None", ",", "None", ")", "if", "updated_ts", "and", "updated_ts", "not", "in", "values", ":", "values", "[", "updated_ts", "]", "=", "utc_now", "(", ")", "if", "self", ".", "core", ".", "supports_timezones", "else", "local_now", "(", ")", "returnings", ".", "append", "(", "updated_ts", ")", "returning", "=", "\", \"", ".", "join", "(", "returnings", ")", "cr", "=", "self", ".", "update", "(", "model", ".", "table_name", ",", "values", ",", "id_constraints", ",", "returning", "=", "returning", ")", "if", "returning", "and", "self", ".", "core", ".", "supports_returning_syntax", ":", "rec", "=", "cr", ".", "fetchone", "(", ")", "for", "idx", ",", "attr_name", "in", "enumerate", "(", "returnings", ")", ":", "setattr", "(", "model", ",", "attr_name", ",", "rec", "[", "idx", "]", ")", "return", "model" ]

[ "Updates", "a", "model", "." ]

[ "def", "insert_model", "(", "self", ",", "model", ",", "*", ",", "upsert", "=", "None", ")", ":", "pkname", "=", "model", ".", "primary_key_name", "include_keys", "=", "set", "(", "model", ".", "attrs", ".", "keys", "(", ")", ")", ".", "difference", "(", "model", ".", "exclude_keys_sql", ")", "if", "model", ".", "primary_key_is_auto", ":", "if", "pkname", "in", "include_keys", ":", "include_keys", ".", "remove", "(", "pkname", ")", "else", ":", "if", "isinstance", "(", "pkname", ",", "str", ")", ":", "include_keys", ".", "add", "(", "pkname", ")", "else", ":", "include_keys", ".", "update", "(", "set", "(", "pkname", ")", ")", "data", "=", "model", ".", "to_dict", "(", "include_keys", "=", "include_keys", ")", "returnings", "=", "[", "]", "if", "model", ".", "primary_key_is_auto", ":", "returnings", ".", "append", "(", "pkname", ")", "if", "model", ".", "timestamps", ":", "returnings", ".", "extend", "(", "ts_name", "for", "ts_name", "in", "model", ".", "timestamps", "if", "ts_name", ")", "returning", "=", "\", \"", ".", "join", "(", "returnings", ")", "cr", "=", "self", ".", "insert", "(", "model", ".", "table_name", ",", "data", ",", "returning", "=", "returning", ",", "upsert", "=", "upsert", ")", "if", "self", ".", "core", ".", "supports_returning_syntax", ":", "if", "returning", ":", "rec", "=", "cr", ".", "fetchone", "(", ")", "if", "rec", ":", "for", "idx", ",", "attr_name", "in", "enumerate", "(", "returnings", ")", ":", "setattr", "(", "model", ",", "attr_name", ",", "rec", "[", "idx", "]", ")", "else", ":", "if", "model", ".", "primary_key_is_auto", ":", "setattr", "(", "model", ",", "model", ".", "primary_key_name", ",", "cr", ".", "lastrowid", ")", "return", "model" ]

[ "Inserts", "a", "record", "for", "the", "given", "model", "." ]

[ "def", "delete_model", "(", "self", ",", "model_or_type", ",", "id_", "=", "None", ")", ":", "if", "not", "id_", ":", "constraints", "=", "get_model_id_constraints", "(", "model_or_type", ")", "else", ":", "constraints", "=", "get_id_constraints", "(", "model_or_type", ".", "primary_key_name", ",", "id_", ")", "self", ".", "delete", "(", "model_or_type", ".", "table_name", ",", "constraints", ")", "return", "model_or_type" ]

[ "Deletes", "a", "model", "." ]

[ "def", "find_or_build", "(", "self", ",", "constructor", ",", "props", ")", ":", "model", "=", "self", ".", "find_model", "(", "constructor", ",", "props", ")", "return", "model", "or", "constructor", "(", "*", "*", "props", ")" ]

[ "Looks", "for", "a", "model", "that", "matches", "the", "given", "dictionary", "constraints", ".", "If", "it", "is", "not", "found", "a", "new", "model", "of", "the", "given", "type", "is", "constructed", "and", "returned", "." ]

[ "def", "find_or_create", "(", "self", ",", "constructor", ",", "props", ",", "*", ",", "comp", "=", "None", ")", ":", "model", "=", "self", ".", "find_model", "(", "constructor", ",", "comp", "or", "props", ")", "if", "model", "is", "None", ":", "model", "=", "constructor", "(", "*", "*", "props", ")", "self", ".", "insert_model", "(", "model", ")", "return", "model" ]

[ "Looks", "for", "a", "model", "taht", "matches", "the", "given", "dictionary", "constraints", ".", "If", "it", "is", "not", "found", "a", "new", "model", "of", "the", "given", "type", "is", "created", "and", "saved", "to", "the", "database", "then", "returned", "." ]

[ "def", "find_or_upsert", "(", "self", ",", "constructor", ",", "props", ",", "*", ",", "comp", "=", "None", ",", "return_status", "=", "False", ")", ":", "model", "=", "self", ".", "find_model", "(", "constructor", ",", "comp", "or", "props", ")", "status", "=", "_UPSERT_STATUS_FOUND", "if", "model", "is", "None", ":", "model", "=", "constructor", "(", "*", "*", "props", ")", "status", "=", "_UPSERT_STATUS_CREATED", "self", ".", "insert_model", "(", "model", ",", "upsert", "=", "Upsert", "(", "Upsert", ".", "DO_NOTHING", ")", ")", "if", "model", ".", "is_new", ":", "model", "=", "self", ".", "find_model", "(", "constructor", ",", "comp", "or", "props", ")", "status", "=", "_UPSERT_STATUS_DUPLICATE", "if", "return_status", ":", "return", "(", "model", ",", "status", ")", "else", ":", "return", "model" ]

[ "This", "finds", "or", "upserts", "a", "model", "with", "an", "auto", "primary", "key", "and", "is", "a", "bit", "more", "flexible", "than", "find_or_create", "." ]

[ "def", "temp_copy", "(", "self", ")", ":", "with", "contextmanagers", ".", "temp_dir", "(", ")", "as", "temp_dir", ":", "temp_root_path", "=", "os", ".", "path", ".", "join", "(", "temp_dir", ",", "'root'", ")", "path", "=", "os", ".", "path", ".", "join", "(", "self", ".", "path", ",", "''", ")", "# adds trailing slash", "check_call", "(", "[", "'rsync'", ",", "'-r'", ",", "\"--exclude={}\"", ".", "format", "(", "self", ".", "private_dir", "(", ")", ")", ",", "\"--filter=dir-merge,- {}\"", ".", "format", "(", "self", ".", "ignore_patterns_file", "(", ")", ")", ",", "path", ",", "temp_root_path", "]", ")", "copy", "=", "self", ".", "__class__", "(", "path", "=", "temp_root_path", ")", "yield", "copy" ]

[ "Yields", "a", "new", "Vcs", "object", "that", "represents", "a", "temporary", "disposable", "copy", "of", "the", "current", "repository", ".", "The", "copy", "is", "deleted", "at", "the", "end", "of", "the", "context", "." ]

[ "def", "published", "(", "self", ",", "for_user", "=", "None", ",", "include_login_required", "=", "False", ")", ":", "published", "=", "super", "(", "PageManager", ",", "self", ")", ".", "published", "(", "for_user", "=", "for_user", ")", "unauthenticated", "=", "for_user", "and", "not", "for_user", ".", "is_authenticated", "(", ")", "if", "(", "unauthenticated", "and", "not", "include_login_required", "and", "not", "settings", ".", "PAGES_PUBLISHED_INCLUDE_LOGIN_REQUIRED", ")", ":", "published", "=", "published", ".", "exclude", "(", "login_required", "=", "True", ")", "return", "published" ]

[ "Override", "DisplayableManager", ".", "published", "to", "exclude", "pages", "with", "login_required", "set", "to", "True", ".", "if", "the", "user", "is", "unauthenticated", "and", "the", "setting", "PAGES_PUBLISHED_INCLUDE_LOGIN_REQUIRED", "is", "False", "." ]

[ "def", "atomic_symlink", "(", "src", ",", "dst", ")", ":", "dst_dir", "=", "os", ".", "path", ".", "dirname", "(", "dst", ")", "tmp", "=", "None", "max_tries", "=", "getattr", "(", "os", ",", "'TMP_MAX'", ",", "10000", ")", "try", ":", "if", "not", "os", ".", "path", ".", "exists", "(", "dst_dir", ")", ":", "os", ".", "makedirs", "(", "dst_dir", ")", "for", "n", "in", "range", "(", "max_tries", ")", ":", "try", ":", "# mktemp is described as being unsafe. That is not true in this case since symlink is an", "# atomic operation at the file system level; if some other processes creates a file with", "# 'our' name then symlink will fail.", "tmp", "=", "tempfile", ".", "mktemp", "(", "dir", "=", "dst_dir", ")", "os", ".", "symlink", "(", "src", ",", "tmp", ")", "logger", ".", "debug", "(", "'created symlink %s'", ",", "tmp", ")", "except", "OSError", "as", "e", ":", "if", "e", ".", "errno", "==", "errno", ".", "EEXIST", ":", "continue", "# Someone else grabbed the temporary name first", "else", ":", "raise", "logger", ".", "debug", "(", "'renaming %s to %s'", ",", "tmp", ",", "dst", ")", "os", ".", "rename", "(", "tmp", ",", "dst", ")", "return", "except", ":", "if", "tmp", "and", "os", ".", "path", ".", "exists", "(", "tmp", ")", ":", "os", ".", "remove", "(", "tmp", ")", "raise", "raise", "IOError", "(", "errno", ".", "EEXIST", ",", "'No usable temporary file name found'", ")" ]

[ "Create", "or", "update", "a", "symbolic", "link", "atomically", "." ]

[ "def", "run", "(", ")", ":", "#pylint: disable=too-many-locals", "store", "=", "EventStore", "(", "STORE_PATH", ")", "with", "open", "(", "CREDENTIAL_PATH", ",", "'r'", ")", "as", "cred_file", ":", "creds", "=", "json", ".", "load", "(", "cred_file", ")", "uname", ",", "pword", "=", "creds", "[", "'uname'", "]", ",", "creds", "[", "'pword'", "]", "mgr", "=", "KindleProgressMgr", "(", "store", ",", "uname", ",", "pword", ")", "print", "'Detecting updates to Kindle progress:'", "events", "=", "mgr", ".", "detect_events", "(", ")", "if", "events", "is", "None", ":", "print", "'Failed to retrieve Kindle progress updates'", "return", "elif", "not", "events", ":", "print", "' No updates detected'", "else", ":", "for", "event", "in", "events", ":", "print", "' '", "+", "str", "(", "event", ")", "print", "print", "'Finished updating.'", "print", "'Mark new books as \\'reading\\' or old books as \\'read\\'? (y/N)'", "if", "safe_raw_input", "(", "'> '", ")", "==", "'y'", ":", "_change_state_prompt", "(", "mgr", ")", "mgr", ".", "commit_events", "(", ")" ]

[ "Execute", "the", "command", "loop" ]

[ "def", "_change_state_prompt", "(", "mgr", ")", ":", "cmd", "=", "''", "book_range", "=", "range", "(", "1", ",", "len", "(", "mgr", ".", "books", ")", "+", "1", ")", "ind_to_book", "=", "dict", "(", "zip", "(", "book_range", ",", "mgr", ".", "books", ")", ")", "get_book", "=", "lambda", "cmd_str", ":", "ind_to_book", "[", "int", "(", "cmd_str", ".", "split", "(", ")", "[", "1", "]", ")", "]", "while", "cmd", "!=", "'q'", ":", "print", "'Books:'", "for", "i", "in", "book_range", ":", "print", "'\\t%d: %s'", "%", "(", "i", ",", "ind_to_book", "[", "i", "]", ")", "print", "'Commands:'", "print", "'| start {#} | Start reading book with index {#}'", "print", "'| finish {#} | Finish reading book with index {#}'", "print", "'| q | Quit'", "cmd", "=", "safe_raw_input", "(", "'> '", ")", "if", "cmd", "is", "None", "or", "cmd", "==", "'q'", ":", "break", "elif", "cmd", ".", "startswith", "(", "'start '", ")", ":", "book", "=", "get_book", "(", "cmd", ")", "initial_progress", "=", "mgr", ".", "progress", "[", "book", ".", "asin", "]", ".", "locs", "[", "1", "]", "event", "=", "SetReadingEvent", "(", "book", ".", "asin", ",", "initial_progress", ")", "elif", "cmd", ".", "startswith", "(", "'finish '", ")", ":", "event", "=", "SetFinishedEvent", "(", "get_book", "(", "cmd", ")", ".", "asin", ")", "else", ":", "print", "'Invalid command'", "event", "=", "None", "if", "event", "is", "not", "None", ":", "print", "print", "'REGISTERED EVENT:'", "print", "' '", "+", "str", "(", "event", ")", "mgr", ".", "register_events", "(", "(", "event", ")", ")", "print" ]

[ "Runs", "a", "prompt", "to", "change", "the", "state", "of", "books", "." ]

[ "def", "change_sheet", "(", "self", ",", "sheet_name_or_num", ")", ":", "if", "isinstance", "(", "sheet_name_or_num", ",", "int", ")", ":", "self", ".", "_sheet", "=", "self", ".", "__wb", "[", "self", ".", "__wb", ".", "sheetnames", "[", "sheet_name_or_num", "]", "]", "elif", "isinstance", "(", "sheet_name_or_num", ",", "basestring", ")", ":", "self", ".", "_sheet", "=", "self", ".", "__wb", "[", "sheet_name_or_num", "]", "else", ":", "reason", "=", "\"Must enter either sheet name or sheet number.\"", "raise", "Exception", "(", "reason", ")" ]

[ "Calling", "this", "method", "changes", "the", "sheet", "in", "anticipation", "for", "the", "next", "time", "you", "create", "an", "iterator", "." ]

[ "def", "_os_install", "(", "self", ",", "package_file", ")", ":", "packages", "=", "\" \"", ".", "join", "(", "json", ".", "load", "(", "package_file", ".", "open", "(", ")", ")", ")", "if", "packages", ":", "for", "packager", "in", "self", ".", "pkg_install_cmds", ":", "if", "packager", "in", "self", ".", "context", ".", "externalbasis", ":", "installer", "=", "self", ".", "pkg_install_cmds", "[", "packager", "]", "return", "f\"RUN {installer} {packages}\"", "else", ":", "return", "\"\"" ]

[ "take", "in", "a", "dict", "return", "a", "string", "of", "docker", "build", "RUN", "directives", "one", "RUN", "per", "package", "type", "one", "package", "type", "per", "JSON", "key" ]

[ "async", "def", "connect", "(", "self", ")", ":", "if", "self", ".", "connected", "or", "self", ".", "is_connecting", ":", "return", "self", ".", "_is_connecting", "=", "True", "try", ":", "logger", ".", "info", "(", "\"Connecting to RabbitMQ...\"", ")", "self", ".", "_transport", ",", "self", ".", "_protocol", "=", "await", "aioamqp", ".", "connect", "(", "*", "*", "self", ".", "_connection_parameters", ")", "logger", ".", "info", "(", "\"Getting channel...\"", ")", "self", ".", "_channel", "=", "await", "self", ".", "_protocol", ".", "channel", "(", ")", "if", "self", ".", "_global_qos", "is", "not", "None", ":", "logger", ".", "info", "(", "\"Setting prefetch count on connection (%s)\"", ",", "self", ".", "_global_qos", ")", "await", "self", ".", "_channel", ".", "basic_qos", "(", "0", ",", "self", ".", "_global_qos", ",", "1", ")", "logger", ".", "info", "(", "\"Connecting to exchange '%s (%s)'\"", ",", "self", ".", "_exchange_name", ",", "self", ".", "_exchange_type", ")", "await", "self", ".", "_channel", ".", "exchange", "(", "self", ".", "_exchange_name", ",", "self", ".", "_exchange_type", ")", "except", "(", "aioamqp", ".", "AmqpClosedConnection", ",", "Exception", ")", ":", "logger", ".", "error", "(", "\"Error initializing RabbitMQ connection\"", ",", "exc_info", "=", "True", ")", "self", ".", "_is_connecting", "=", "False", "raise", "exceptions", ".", "StreamConnectionError", "self", ".", "_is_connecting", "=", "False" ]

[ "Create", "new", "asynchronous", "connection", "to", "the", "RabbitMQ", "instance", ".", "This", "will", "connect", "declare", "exchange", "and", "bind", "itself", "to", "the", "configured", "queue", "." ]

[ "async", "def", "consume_queue", "(", "self", ",", "subscriber", ":", "AbstractSubscriber", ")", "->", "None", ":", "queue_name", "=", "subscriber", ".", "name", "topics", "=", "subscriber", ".", "requested_topics", "if", "queue_name", "in", "self", ".", "_known_queues", ":", "raise", "exceptions", ".", "ConsumerError", "(", "\"Queue '%s' already being consumed\"", "%", "queue_name", ")", "await", "self", ".", "_declare_queue", "(", "queue_name", ")", "# TODO: There is a lot of room to improvement here. Figure out routing done the right way", "for", "key", "in", "topics", ":", "self", ".", "_routing", ".", "setdefault", "(", "key", ",", "set", "(", ")", ")", "if", "subscriber", "in", "self", ".", "_routing", "[", "key", "]", ":", "logger", ".", "warning", "(", "\"Subscriber '%s' already receiving routing_key '%s'\"", ",", "subscriber", ",", "key", ")", "break", "await", "self", ".", "_bind_key_to_queue", "(", "key", ",", "queue_name", ")", "self", ".", "_routing", "[", "key", "]", ".", "add", "(", "subscriber", ")", "logger", ".", "info", "(", "\"Consuming queue '%s'\"", ",", "queue_name", ")", "await", "asyncio", ".", "wait_for", "(", "self", ".", "_channel", ".", "basic_consume", "(", "callback", "=", "self", ".", "_on_message", ",", "queue_name", "=", "queue_name", ")", ",", "timeout", "=", "10", ")", "self", ".", "_add_to_known_queue", "(", "queue_name", ")" ]

[ "Subscribe", "to", "the", "queue", "consuming", "." ]

[ "async", "def", "_bind_key_to_queue", "(", "self", ",", "routing_key", ":", "AnyStr", ",", "queue_name", ":", "AnyStr", ")", "->", "None", ":", "logger", ".", "info", "(", "\"Binding key='%s'\"", ",", "routing_key", ")", "result", "=", "await", "self", ".", "_channel", ".", "queue_bind", "(", "exchange_name", "=", "self", ".", "_exchange_name", ",", "queue_name", "=", "queue_name", ",", "routing_key", "=", "routing_key", ",", ")", "return", "result" ]

[ "Bind", "to", "queue", "with", "specified", "routing", "key", "." ]

[ "async", "def", "_on_message", "(", "self", ",", "channel", ",", "body", ",", "envelope", ",", "properties", ")", "->", "None", ":", "subscribers", "=", "self", ".", "_get_subscribers", "(", "envelope", ".", "routing_key", ")", "if", "not", "subscribers", ":", "logger", ".", "debug", "(", "\"No route for message with key '%s'\"", ",", "envelope", ".", "routing_key", ")", "return", "body", "=", "self", ".", "_serializer", ".", "deserialize", "(", "body", ")", "for", "subscriber", "in", "subscribers", ":", "# Check later if ensure_future can be applied here", "await", "subscriber", ".", "on_message", "(", "body", ",", "envelope", ".", "routing_key", ")", "await", "self", ".", "_channel", ".", "basic_client_ack", "(", "envelope", ".", "delivery_tag", ")" ]

[ "Fires", "up", "when", "message", "is", "received", "by", "this", "consumer", "." ]

[ "def", "parse_this", "(", "func", ",", "types", ",", "args", "=", "None", ",", "delimiter_chars", "=", "\":\"", ")", ":", "_LOG", ".", "debug", "(", "\"Creating parser for %s\"", ",", "func", ".", "__name__", ")", "(", "func_args", ",", "dummy_1", ",", "dummy_2", ",", "defaults", ")", "=", "getargspec", "(", "func", ")", "types", ",", "func_args", "=", "_check_types", "(", "func", ".", "__name__", ",", "types", ",", "func_args", ",", "defaults", ")", "args_and_defaults", "=", "_get_args_and_defaults", "(", "func_args", ",", "defaults", ")", "parser", "=", "_get_arg_parser", "(", "func", ",", "types", ",", "args_and_defaults", ",", "delimiter_chars", ")", "arguments", "=", "parser", ".", "parse_args", "(", "_get_args_to_parse", "(", "args", ",", "sys", ".", "argv", ")", ")", "return", "_call", "(", "func", ",", "func_args", ",", "arguments", ")" ]

[ "Create", "an", "ArgParser", "for", "the", "given", "function", "converting", "the", "command", "line", "arguments", "according", "to", "the", "list", "of", "types", "." ]

[ "def", "_add_sub_parsers", "(", "self", ",", "top_level_parser", ",", "methods_to_parse", ",", "class_name", ")", ":", "description", "=", "\"Accessible methods of {}\"", ".", "format", "(", "class_name", ")", "sub_parsers", "=", "top_level_parser", ".", "add_subparsers", "(", "description", "=", "description", ",", "dest", "=", "\"method\"", ")", "# Holds the mapping between the name registered for the parser", "# and the method real name. It is useful in the 'inner_call'", "# method retrieve the real method", "parser_to_method", "=", "{", "}", "for", "method_name", ",", "parser", "in", "methods_to_parse", ".", "items", "(", ")", ":", "# We use the name provided in 'create_parser` or the name of the", "# decorated method", "parser_name", "=", "parser", ".", "get_name", "(", ")", "or", "method_name", "# Make the method name compatible for the argument parsing", "if", "parser_name", ".", "startswith", "(", "\"_\"", ")", ":", "if", "not", "self", ".", "_parse_private", ":", "# We skip private methods if the caller asked not to", "# parse them", "continue", "# 'Private' methods are exposed without their leading or", "# trailing '_'s. Also works for 'special' methods.", "parser_name", "=", "parser_name", ".", "strip", "(", "\"_\"", ")", "parser_name", "=", "parser_name", ".", "replace", "(", "\"_\"", ",", "\"-\"", ")", "parser_to_method", "[", "parser_name", "]", "=", "method_name", "sub_parsers", ".", "add_parser", "(", "parser_name", ",", "parents", "=", "[", "parser", "]", ",", "add_help", "=", "False", ",", "description", "=", "parser", ".", "description", ")", "return", "parser_to_method" ]

[ "Add", "all", "the", "sub", "-", "parsers", "to", "the", "top_level_parser", "." ]

[ "def", "_set_class_parser", "(", "self", ",", "init_parser", ",", "methods_to_parse", ",", "cls", ")", ":", "top_level_parents", "=", "[", "init_parser", "]", "if", "init_parser", "else", "[", "]", "description", "=", "self", ".", "_description", "or", "cls", ".", "__doc__", "top_level_parser", "=", "argparse", ".", "ArgumentParser", "(", "description", "=", "description", ",", "parents", "=", "top_level_parents", ",", "add_help", "=", "False", ",", "conflict_handler", "=", "\"resolve\"", ")", "top_level_parser", ".", "add_argument", "(", "\"-h\"", ",", "\"--help\"", ",", "action", "=", "FullHelpAction", ",", "help", "=", "\"Display this help message\"", ")", "parser_to_method", "=", "self", ".", "_add_sub_parsers", "(", "top_level_parser", ",", "methods_to_parse", ",", "cls", ".", "__name__", ")", "# Update the dict with the __init__ method so we can instantiate", "# the decorated class", "if", "init_parser", ":", "parser_to_method", "[", "\"__init__\"", "]", "=", "\"__init__\"", "top_level_parser", ".", "call", "=", "self", ".", "_get_parser_call_method", "(", "parser_to_method", ")", "cls", ".", "parser", "=", "top_level_parser" ]

[ "Creates", "the", "complete", "argument", "parser", "for", "the", "decorated", "class", "." ]

[ "def", "_get_parser_call_method", "(", "self", ",", "parser_to_method", ")", ":", "def", "inner_call", "(", "args", "=", "None", ",", "instance", "=", "None", ")", ":", "\"\"\"Allows to call the method invoked from the command line or\n provided argument.\n\n Args:\n args: list of arguments to parse, defaults to command line\n arguments\n instance: an instance of the decorated class. If instance is\n None, the default, and __init__ is decorated the object will be\n instantiated on the fly from the command line arguments\n \"\"\"", "parser", "=", "self", ".", "_cls", ".", "parser", "namespace", "=", "parser", ".", "parse_args", "(", "_get_args_to_parse", "(", "args", ",", "sys", ".", "argv", ")", ")", "if", "instance", "is", "None", ":", "# If the __init__ method is not part of the method to", "# decorate we cannot instantiate the class", "if", "\"__init__\"", "not", "in", "parser_to_method", ":", "raise", "ParseThisError", "(", "(", "\"'__init__' method is not decorated. \"", "\"Please provide an instance to \"", "\"'{}.parser.call' or decorate the \"", "\"'__init___' method with \"", "\"'create_parser'\"", ".", "format", "(", "self", ".", "_cls", ".", "__name__", ")", ")", ")", "# We instantiate the class from the command line arguments", "instance", "=", "_call_method_from_namespace", "(", "self", ".", "_cls", ",", "\"__init__\"", ",", "namespace", ")", "method_name", "=", "parser_to_method", "[", "namespace", ".", "method", "]", "return", "_call_method_from_namespace", "(", "instance", ",", "method_name", ",", "namespace", ")", "return", "inner_call" ]

[ "Return", "the", "parser", "special", "method", "call", "that", "handles", "sub", "-", "command", "calling", "." ]

[ "def", "gp_lcltpt", "(", ")", ":", "inDir", ",", "outDir", "=", "getWorkDirs", "(", ")", "nSets", "=", "len", "(", "default_colors", ")", "make_plot", "(", "data", "=", "[", "np", ".", "array", "(", "[", "[", "0", ",", "i", ",", "0", ",", "0", ",", "0", "]", ",", "[", "1", ",", "i", ",", "0", ",", "0", ",", "0", "]", "]", ")", "for", "i", "in", "xrange", "(", "nSets", ")", "]", ",", "properties", "=", "[", "'with linespoints lw 4 lc %s lt %d pt %d'", "%", "(", "col", ",", "i", ",", "i", ")", "for", "i", ",", "col", "in", "enumerate", "(", "default_colors", ")", "]", ",", "titles", "=", "[", "''", "]", "*", "nSets", ",", "yr", "=", "[", "-", "1", ",", "51", "]", ",", "name", "=", "os", ".", "path", ".", "join", "(", "outDir", ",", "'gp_lcltpt'", ")", ",", "ylabel", "=", "'linecolor / linetype / pointtype'", ",", "xlabel", "=", "''", ",", ")", "return", "'done'" ]

[ "example", "plot", "to", "display", "linecolors", "linetypes", "and", "pointtypes" ]

[ "def", "run_analyses", "(", "prepared_analyses", "=", "None", ",", "log_dir", "=", "default_log_dir", ")", ":", "if", "prepared_analyses", "==", "None", ":", "prepared_analyses", "=", "prepare_analyses", "(", ")", "state_collection", "=", "funtool", ".", "state_collection", ".", "StateCollection", "(", "[", "]", ",", "{", "}", ")", "for", "analysis", "in", "prepared_analyses", ":", "state_collection", "=", "funtool", ".", "analysis", ".", "run_analysis", "(", "analysis", ",", "state_collection", ",", "log_dir", ")", "return", "state_collection" ]

[ "If", "all", "defaults", "are", "ok", "this", "should", "be", "the", "only", "function", "needed", "to", "run", "the", "analyses", "." ]

[ "def", "run_analysis", "(", "named_analysis", ",", "prepared_analyses", "=", "None", ",", "log_dir", "=", "default_log_dir", ")", ":", "if", "prepared_analyses", "==", "None", ":", "prepared_analyses", "=", "prepare_analyses", "(", ")", "state_collection", "=", "funtool", ".", "state_collection", ".", "StateCollection", "(", "[", "]", ",", "{", "}", ")", "for", "analysis", "in", "prepared_analyses", ":", "if", "analysis", ".", "name", "==", "named_analysis", ":", "state_collection", "=", "funtool", ".", "analysis", ".", "run_analysis", "(", "analysis", ",", "state_collection", ",", "log_dir", ")", "return", "state_collection" ]

[ "Runs", "just", "the", "named", "analysis", ".", "Otherwise", "just", "like", "run_analyses" ]

[ "def", "poll", "(", "self", ")", ":", "self", ".", "runner", ".", "module_name", "=", "'async_status'", "self", ".", "runner", ".", "module_args", "=", "\"jid=%s\"", "%", "self", ".", "jid", "self", ".", "runner", ".", "pattern", "=", "\"*\"", "self", ".", "runner", ".", "background", "=", "0", "self", ".", "runner", ".", "inventory", ".", "restrict_to", "(", "self", ".", "hosts_to_poll", ")", "results", "=", "self", ".", "runner", ".", "run", "(", ")", "self", ".", "runner", ".", "inventory", ".", "lift_restriction", "(", ")", "hosts", "=", "[", "]", "poll_results", "=", "{", "'contacted'", ":", "{", "}", ",", "'dark'", ":", "{", "}", ",", "'polled'", ":", "{", "}", "}", "for", "(", "host", ",", "res", ")", "in", "results", "[", "'contacted'", "]", ".", "iteritems", "(", ")", ":", "if", "res", ".", "get", "(", "'started'", ",", "False", ")", ":", "hosts", ".", "append", "(", "host", ")", "poll_results", "[", "'polled'", "]", "[", "host", "]", "=", "res", "else", ":", "self", ".", "results", "[", "'contacted'", "]", "[", "host", "]", "=", "res", "poll_results", "[", "'contacted'", "]", "[", "host", "]", "=", "res", "if", "'failed'", "in", "res", ":", "self", ".", "runner", ".", "callbacks", ".", "on_async_failed", "(", "host", ",", "res", ",", "self", ".", "jid", ")", "else", ":", "self", ".", "runner", ".", "callbacks", ".", "on_async_ok", "(", "host", ",", "res", ",", "self", ".", "jid", ")", "for", "(", "host", ",", "res", ")", "in", "results", "[", "'dark'", "]", ".", "iteritems", "(", ")", ":", "self", ".", "results", "[", "'dark'", "]", "[", "host", "]", "=", "res", "poll_results", "[", "'dark'", "]", "[", "host", "]", "=", "res", "self", ".", "runner", ".", "callbacks", ".", "on_async_failed", "(", "host", ",", "res", ",", "self", ".", "jid", ")", "self", ".", "hosts_to_poll", "=", "hosts", "if", "len", "(", "hosts", ")", "==", "0", ":", "self", ".", "completed", "=", "True", "return", "poll_results" ]

[ "Poll", "the", "job", "status", "." ]

[ "def", "wait", "(", "self", ",", "seconds", ",", "poll_interval", ")", ":", "# jid is None when all hosts were skipped", "if", "self", ".", "jid", "is", "None", ":", "return", "self", ".", "results", "clock", "=", "seconds", "-", "poll_interval", "while", "(", "clock", ">=", "0", "and", "not", "self", ".", "completed", ")", ":", "time", ".", "sleep", "(", "poll_interval", ")", "poll_results", "=", "self", ".", "poll", "(", ")", "for", "(", "host", ",", "res", ")", "in", "poll_results", "[", "'polled'", "]", ".", "iteritems", "(", ")", ":", "if", "res", ".", "get", "(", "'started'", ")", ":", "self", ".", "runner", ".", "callbacks", ".", "on_async_poll", "(", "host", ",", "res", ",", "self", ".", "jid", ",", "clock", ")", "clock", "=", "clock", "-", "poll_interval", "return", "self", ".", "results" ]

[ "Wait", "a", "certain", "time", "for", "job", "completion", "check", "status", "every", "poll_interval", "." ]

[ "def", "get_edit_form", "(", "obj", ",", "field_names", ",", "data", "=", "None", ",", "files", "=", "None", ")", ":", "# Map these form fields to their types defined in the forms app so", "# we can make use of their custom widgets.", "from", "yacms", ".", "forms", "import", "fields", "widget_overrides", "=", "{", "forms", ".", "DateField", ":", "fields", ".", "DATE", ",", "forms", ".", "DateTimeField", ":", "fields", ".", "DATE_TIME", ",", "forms", ".", "EmailField", ":", "fields", ".", "EMAIL", ",", "}", "class", "EditForm", "(", "forms", ".", "ModelForm", ")", ":", "\"\"\"\n In-line editing form for editing a single model field.\n \"\"\"", "app", "=", "forms", ".", "CharField", "(", "widget", "=", "forms", ".", "HiddenInput", ")", "model", "=", "forms", ".", "CharField", "(", "widget", "=", "forms", ".", "HiddenInput", ")", "id", "=", "forms", ".", "CharField", "(", "widget", "=", "forms", ".", "HiddenInput", ")", "fields", "=", "forms", ".", "CharField", "(", "widget", "=", "forms", ".", "HiddenInput", ")", "class", "Meta", ":", "model", "=", "obj", ".", "__class__", "fields", "=", "field_names", ".", "split", "(", "\",\"", ")", "def", "__init__", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "super", "(", "EditForm", ",", "self", ")", ".", "__init__", "(", "*", "args", ",", "*", "*", "kwargs", ")", "self", ".", "uuid", "=", "str", "(", "uuid4", "(", ")", ")", "for", "f", "in", "self", ".", "fields", ".", "keys", "(", ")", ":", "field_class", "=", "self", ".", "fields", "[", "f", "]", ".", "__class__", "try", ":", "widget", "=", "fields", ".", "WIDGETS", "[", "widget_overrides", "[", "field_class", "]", "]", "except", "KeyError", ":", "pass", "else", ":", "self", ".", "fields", "[", "f", "]", ".", "widget", "=", "widget", "(", ")", "css_class", "=", "self", ".", "fields", "[", "f", "]", ".", "widget", ".", "attrs", ".", "get", "(", "\"class\"", ",", "\"\"", ")", "css_class", "+=", "\" \"", "+", "field_class", ".", "__name__", ".", "lower", "(", ")", "self", ".", "fields", "[", "f", "]", ".", "widget", ".", "attrs", "[", "\"class\"", "]", "=", "css_class", "self", ".", "fields", "[", "f", "]", ".", "widget", ".", "attrs", "[", "\"id\"", "]", "=", "\"%s-%s\"", "%", "(", "f", ",", "self", ".", "uuid", ")", "if", "settings", ".", "FORMS_USE_HTML5", "and", "self", ".", "fields", "[", "f", "]", ".", "required", ":", "self", ".", "fields", "[", "f", "]", ".", "widget", ".", "attrs", "[", "\"required\"", "]", "=", "\"\"", "initial", "=", "{", "\"app\"", ":", "obj", ".", "_meta", ".", "app_label", ",", "\"id\"", ":", "obj", ".", "id", ",", "\"fields\"", ":", "field_names", ",", "\"model\"", ":", "obj", ".", "_meta", ".", "object_name", ".", "lower", "(", ")", "}", "return", "EditForm", "(", "instance", "=", "obj", ",", "initial", "=", "initial", ",", "data", "=", "data", ",", "files", "=", "files", ")" ]

[ "Returns", "the", "in", "-", "line", "editing", "form", "for", "editing", "a", "single", "model", "field", "." ]

[ "def", "_filter_disabled_regions", "(", "contents", ")", ":", "contents", "=", "list", "(", "contents", ")", "in_backticks", "=", "False", "contents_len", "=", "len", "(", "contents", ")", "index", "=", "0", "while", "index", "<", "contents_len", ":", "character", "=", "contents", "[", "index", "]", "if", "character", "==", "\"`\"", ":", "# Check to see if we should toggle the in_backticks", "# mode here by looking ahead for another two characters.", "if", "(", "(", "index", "+", "2", ")", "<", "contents_len", "and", "\"\"", ".", "join", "(", "contents", "[", "index", ":", "index", "+", "3", "]", ")", "==", "\"```\"", ")", ":", "in_backticks", "=", "not", "in_backticks", "index", "+=", "3", "continue", "if", "in_backticks", ":", "contents", "[", "index", "]", "=", "\" \"", "index", "+=", "1", "return", "\"\"", ".", "join", "(", "contents", ")" ]

[ "Filter", "regions", "that", "are", "contained", "in", "back", "-", "ticks", "." ]

[ "def", "spellcheck", "(", "contents", ",", "technical_terms", "=", "None", ",", "spellcheck_cache", "=", "None", ")", ":", "contents", "=", "spelling", ".", "filter_nonspellcheckable_tokens", "(", "contents", ")", "contents", "=", "_filter_disabled_regions", "(", "contents", ")", "lines", "=", "contents", ".", "splitlines", "(", "True", ")", "user_words", ",", "valid_words", "=", "valid_words_dictionary", ".", "create", "(", "spellcheck_cache", ")", "technical_words", "=", "technical_words_dictionary", ".", "create", "(", "technical_terms", ",", "spellcheck_cache", ")", "return", "sorted", "(", "[", "e", "for", "e", "in", "spellcheck_region", "(", "lines", ",", "valid_words", ",", "technical_words", ",", "user_words", ")", "]", ")" ]

[ "Run", "spellcheck", "on", "the", "contents", "of", "a", "file", "." ]

[ "def", "_report_spelling_error", "(", "error", ",", "file_path", ")", ":", "line", "=", "error", ".", "line_offset", "+", "1", "code", "=", "\"file/spelling_error\"", "description", "=", "_SPELLCHECK_MESSAGES", "[", "error", ".", "error_type", "]", ".", "format", "(", "error", ".", "word", ")", "if", "error", ".", "suggestions", "is", "not", "None", ":", "description", "=", "(", "description", "+", "\", perhaps you meant: \"", "+", "\", \"", ".", "join", "(", "error", ".", "suggestions", ")", ")", "sys", ".", "stdout", ".", "write", "(", "\"{0}:{1} [{2}] {3}\\n\"", ".", "format", "(", "file_path", ",", "line", ",", "code", ",", "description", ")", ")" ]

[ "Report", "a", "spelling", "error", "." ]

[ "def", "main", "(", "arguments", "=", "None", ")", ":", "# suppress(unused-function)", "dictionary_path", "=", "os", ".", "path", ".", "abspath", "(", "\"DICTIONARY\"", ")", "result", "=", "_parse_arguments", "(", "arguments", ")", "num_errors", "=", "0", "for", "found_filename", "in", "result", ".", "files", ":", "file_path", "=", "os", ".", "path", ".", "abspath", "(", "found_filename", ")", "with", "io", ".", "open", "(", "file_path", ",", "\"r+\"", ",", "encoding", "=", "\"utf-8\"", ")", "as", "found_file", ":", "jobstamps_dependencies", "=", "[", "file_path", "]", "if", "os", ".", "path", ".", "exists", "(", "dictionary_path", ")", ":", "jobstamps_dependencies", ".", "append", "(", "dictionary_path", ")", "if", "(", "result", ".", "technical_terms", "and", "os", ".", "path", ".", "exists", "(", "result", ".", "technical_terms", ")", ")", ":", "jobstamps_dependencies", ".", "append", "(", "result", ".", "technical_terms", ")", "kwargs", "=", "{", "\"jobstamps_dependencies\"", ":", "jobstamps_dependencies", ",", "\"jobstamps_cache_output_directory\"", ":", "result", ".", "stamp_file_path", ",", "}", "errors", "=", "jobstamp", ".", "run", "(", "spellcheck", ",", "found_file", ".", "read", "(", ")", ",", "result", ".", "technical_terms", ",", "result", ".", "spellcheck_cache", ",", "*", "*", "kwargs", ")", "for", "error", "in", "errors", ":", "_report_spelling_error", "(", "error", ",", "file_path", ")", "num_errors", "+=", "len", "(", "errors", ")", "return", "num_errors" ]

[ "Entry", "point", "for", "the", "spellcheck", "linter", "." ]

[ "def", "recover", "(", "self", ",", "state", ")", ":", "newval", "=", "self", ".", "f", ".", "recover", "(", "state", ")", "return", "self", ".", "errtype", "(", "self", ".", "value", ",", "newval", ")" ]

[ "recompute", "the", "actual", "value", "then", "compare", "it", "against", "the", "truth" ]

[ "def", "compare_version", "(", "value", ")", ":", "# extract parts from value", "import", "re", "res", "=", "re", ".", "match", "(", "r'(<|<=|==|>|>=)(\\d{1,2}\\.\\d{1,2}(\\.\\d{1,2})?)$'", ",", "str", "(", "value", ")", ".", "strip", "(", ")", ")", "if", "not", "res", ":", "return", "False", "operator", ",", "value", ",", "_", "=", "res", ".", "groups", "(", ")", "# break into pieces", "value", "=", "tuple", "(", "int", "(", "x", ")", "for", "x", "in", "str", "(", "value", ")", ".", "split", "(", "'.'", ")", ")", "if", "len", "(", "value", ")", "<", "3", ":", "value", "+=", "(", "0", ",", ")", "version", "=", "__version_info__", "if", "operator", "in", "(", "'<'", ",", "'<='", ")", ":", "if", "version", "<", "value", ":", "return", "True", "if", "operator", "!=", "'<='", ":", "return", "False", "elif", "operator", "in", "(", "'>='", ",", "'>'", ")", ":", "if", "version", ">", "value", ":", "return", "True", "if", "operator", "!=", "'>='", ":", "return", "False", "return", "value", "==", "version" ]

[ "Determines", "if", "the", "provided", "version", "value", "compares", "with", "program", "version", "." ]

[ "def", "get_all_publications", "(", "return_namedtuples", "=", "True", ")", ":", "sources", "=", "[", "ben_cz", ".", "get_publications", ",", "grada_cz", ".", "get_publications", ",", "cpress_cz", ".", "get_publications", ",", "zonerpress_cz", ".", "get_publications", ",", "]", "# get data from all scrappers", "publications", "=", "[", "]", "for", "source", "in", "sources", ":", "publications", ".", "extend", "(", "filters", ".", "filter_publications", "(", "source", "(", ")", ")", ")", "# convert to namedtuples", "if", "return_namedtuples", ":", "publications", "=", "map", "(", "lambda", "x", ":", "x", ".", "to_namedtuple", "(", ")", ",", "publications", ")", "return", "publications" ]

[ "Get", "list", "publications", "from", "all", "available", "source", "." ]

[ "def", "parse_cell", "(", "self", ",", "cell", ",", "coords", ",", "cell_mode", "=", "CellMode", ".", "cooked", ")", ":", "# pylint: disable=too-many-return-statements", "if", "cell_mode", "==", "CellMode", ".", "cooked", ":", "if", "cell", ".", "covered", "or", "cell", ".", "value_type", "is", "None", "or", "cell", ".", "value", "is", "None", ":", "return", "None", "vtype", "=", "cell", ".", "value_type", "if", "vtype", "==", "'string'", ":", "return", "cell", ".", "value", "if", "vtype", "==", "'float'", "or", "vtype", "==", "'percentage'", "or", "vtype", "==", "'currency'", ":", "return", "cell", ".", "value", "if", "vtype", "==", "'boolean'", ":", "return", "cell", ".", "value", "if", "vtype", "==", "'date'", ":", "date_tuple", "=", "tuple", "(", "[", "int", "(", "i", ")", "if", "i", "is", "not", "None", "else", "0", "for", "i", "in", "_DATE_REGEX", ".", "match", "(", "cell", ".", "value", ")", ".", "groups", "(", ")", "]", ")", "return", "self", ".", "tuple_to_datetime", "(", "date_tuple", ")", "if", "vtype", "==", "'time'", ":", "hour", ",", "minute", ",", "second", "=", "_TIME_REGEX", ".", "match", "(", "cell", ".", "value", ")", ".", "groups", "(", ")", "# TODO: This kills off the microseconds", "date_tuple", "=", "(", "0", ",", "0", ",", "0", ",", "int", "(", "hour", ")", ",", "int", "(", "minute", ")", ",", "round", "(", "float", "(", "second", ")", ")", ")", "return", "self", ".", "tuple_to_datetime", "(", "date_tuple", ")", "raise", "ValueError", "(", "\"Unhandled cell type: {0}\"", ".", "format", "(", "vtype", ")", ")", "else", ":", "return", "cell" ]

[ "Parses", "a", "cell", "according", "to", "its", "cell", ".", "value_type", "." ]

[ "def", "get_row", "(", "self", ",", "row_index", ")", ":", "if", "self", ".", "_raw_rows", "is", "None", ":", "self", ".", "_raw_rows", "=", "list", "(", "self", ".", "raw_sheet", ".", "rows", "(", ")", ")", "return", "self", ".", "_raw_rows", "[", "row_index", "]" ]

[ "Returns", "the", "row", "at", "row_index", "." ]

[ "def", "create_config", "(", "sections", ",", "section_contents", ")", ":", "sections_length", ",", "section_contents_length", "=", "len", "(", "sections", ")", ",", "len", "(", "section_contents", ")", "if", "sections_length", "!=", "section_contents_length", ":", "raise", "ValueError", "(", "\"Mismatch between argument lengths.\\n\"", "\"len(sections) = {}\\n\"", "\"len(section_contents) = {}\"", ".", "format", "(", "sections_length", ",", "section_contents_length", ")", ")", "config", "=", "configparser", ".", "ConfigParser", "(", ")", "for", "section", ",", "section_content", "in", "zip", "(", "sections", ",", "section_contents", ")", ":", "config", "[", "section", "]", "=", "section_content", "return", "config" ]

[ "Create", "a", "config", "file", "from", "the", "provided", "sections", "and", "key", "value", "pairs", "." ]

[ "def", "write_config", "(", "config", ",", "config_path", "=", "CONFIG_PATH", ")", ":", "if", "not", "os", ".", "path", ".", "exists", "(", "config_path", ")", ":", "os", ".", "makedirs", "(", "os", ".", "path", ".", "dirname", "(", "config_path", ")", ")", "with", "open", "(", "config_path", ",", "'w'", ",", "encoding", "=", "'utf-8'", ")", "as", "f", ":", "config", ".", "write", "(", "f", ")" ]

[ "Write", "the", "config", "to", "the", "output", "path", ".", "Creates", "the", "necessary", "directories", "if", "they", "aren", "t", "there", "." ]

[ "def", "read_config", "(", "config_path", "=", "CONFIG_PATH", ")", ":", "if", "not", "os", ".", "path", ".", "isfile", "(", "config_path", ")", ":", "raise", "IOError", "(", "\"No config file found at %s\"", "%", "config_path", ")", "config_parser", "=", "configparser", ".", "ConfigParser", "(", ")", "config_parser", ".", "read", "(", "config_path", ")", "config", "=", "_config_parser_to_defaultdict", "(", "config_parser", ")", "return", "config" ]

[ "Read", "the", "config", "information", "from", "the", "config", "file", "." ]

[ "def", "check_config", "(", "config", ")", ":", "for", "section", ",", "expected_section_keys", "in", "SECTION_KEYS", ".", "items", "(", ")", ":", "section_content", "=", "config", ".", "get", "(", "section", ")", "if", "not", "section_content", ":", "raise", "ConfigurationError", "(", "\"Config file badly formed! Section {} is missing.\"", ".", "format", "(", "section", ")", ")", "elif", "not", "_section_is_healthy", "(", "section_content", ",", "expected_section_keys", ")", ":", "raise", "ConfigurationError", "(", "\"The {} section of the configuration file is badly formed!\"", ".", "format", "(", "section", ")", ")" ]

[ "Check", "that", "all", "sections", "of", "the", "config", "contain", "the", "keys", "that", "they", "should", "." ]

[ "def", "run_config_diagnostics", "(", "config_path", "=", "CONFIG_PATH", ")", ":", "config", "=", "read_config", "(", "config_path", ")", "missing_sections", "=", "set", "(", ")", "malformed_entries", "=", "defaultdict", "(", "set", ")", "for", "section", ",", "expected_section_keys", "in", "SECTION_KEYS", ".", "items", "(", ")", ":", "section_content", "=", "config", ".", "get", "(", "section", ")", "if", "not", "section_content", ":", "missing_sections", ".", "add", "(", "section", ")", "else", ":", "for", "option", "in", "expected_section_keys", ":", "option_value", "=", "section_content", ".", "get", "(", "option", ")", "if", "not", "option_value", ":", "malformed_entries", "[", "section", "]", ".", "add", "(", "option", ")", "return", "config_path", ",", "missing_sections", ",", "malformed_entries" ]

[ "Run", "diagnostics", "on", "the", "configuration", "file", "." ]

[ "def", "get_attribute_from_config", "(", "config", ",", "section", ",", "attribute", ")", ":", "section", "=", "config", ".", "get", "(", "section", ")", "if", "section", ":", "option", "=", "section", ".", "get", "(", "attribute", ")", "if", "option", ":", "return", "option", "raise", "ConfigurationError", "(", "\"Config file badly formed!\\n\"", "\"Failed to get attribute '{}' from section '{}'!\"", ".", "format", "(", "attribute", ",", "section", ")", ")" ]

[ "Try", "to", "parse", "an", "attribute", "of", "the", "config", "file", "." ]

[ "def", "valid_config_exists", "(", "config_path", "=", "CONFIG_PATH", ")", ":", "if", "os", ".", "path", ".", "isfile", "(", "config_path", ")", ":", "try", ":", "config", "=", "read_config", "(", "config_path", ")", "check_config", "(", "config", ")", "except", "(", "ConfigurationError", ",", "IOError", ")", ":", "return", "False", "else", ":", "return", "False", "return", "True" ]

[ "Verify", "that", "a", "valid", "config", "file", "exists", "." ]

[ "def", "config_to_string", "(", "config", ")", ":", "output", "=", "[", "]", "for", "section", ",", "section_content", "in", "config", ".", "items", "(", ")", ":", "output", ".", "append", "(", "\"[{}]\"", ".", "format", "(", "section", ")", ")", "for", "option", ",", "option_value", "in", "section_content", ".", "items", "(", ")", ":", "output", ".", "append", "(", "\"{} = {}\"", ".", "format", "(", "option", ",", "option_value", ")", ")", "return", "\"\\n\"", ".", "join", "(", "output", ")" ]

[ "Nice", "output", "string", "for", "the", "config", "which", "is", "a", "nested", "defaultdict", "." ]

[ "def", "_config_parser_to_defaultdict", "(", "config_parser", ")", ":", "config", "=", "defaultdict", "(", "defaultdict", ")", "for", "section", ",", "section_content", "in", "config_parser", ".", "items", "(", ")", ":", "if", "section", "!=", "'DEFAULT'", ":", "for", "option", ",", "option_value", "in", "section_content", ".", "items", "(", ")", ":", "config", "[", "section", "]", "[", "option", "]", "=", "option_value", "return", "config" ]

[ "Convert", "a", "ConfigParser", "to", "a", "defaultdict", "." ]

[ "def", "start", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "if", "'stderr'", "in", "kwargs", ":", "raise", "ValueError", "(", "'`stderr` must not be specified, since it must be'", "' monitored to determine which port the notebook '", "'server is running on.'", ")", "args_", "=", "(", "'%s'", "%", "sys", ".", "executable", ",", "'-m'", ",", "'IPython'", ",", "'notebook'", ")", "+", "self", ".", "args", "args_", "=", "args_", "+", "tuple", "(", "args", ")", "self", ".", "process", "=", "Popen", "(", "args_", ",", "stderr", "=", "PIPE", ",", "*", "*", "kwargs", ")", "self", ".", "_notebook_dir", "=", "os", ".", "getcwd", "(", ")", "# Determine which port the notebook is running on.", "cre_address", "=", "re", ".", "compile", "(", "r'The \\w+ Notebook is running at: '", "r'(?P<address>https?://.*?:'", "r'(?P<port>\\d+)[^\\r]*/)\\r?$'", ")", "cre_notebook_dir", "=", "re", ".", "compile", "(", "r'Serving notebooks from local '", "r'directory:\\s+(?P<notebook_dir>[^\\r]*)\\r?$'", ")", "match", "=", "None", "self", ".", "stderr_lines", "=", "[", "]", "while", "not", "self", ".", "process", ".", "poll", "(", ")", "and", "match", "is", "None", ":", "stderr_line", "=", "self", ".", "process", ".", "stderr", ".", "readline", "(", ")", "self", ".", "stderr_lines", ".", "append", "(", "stderr_line", ")", "match", "=", "cre_address", ".", "search", "(", "stderr_line", ")", "dir_match", "=", "cre_notebook_dir", ".", "search", "(", "stderr_line", ")", "if", "dir_match", ":", "self", ".", "_notebook_dir", "=", "dir_match", ".", "group", "(", "'notebook_dir'", ")", "if", "match", ":", "# Notebook was started successfully.", "self", ".", "address", "=", "match", ".", "group", "(", "'address'", ")", "self", ".", "port", "=", "int", "(", "match", ".", "group", "(", "'port'", ")", ")", "else", ":", "raise", "IOError", "(", "''", ".", "join", "(", "self", ".", "stderr_lines", ")", ")" ]

[ "Launch", "IPython", "notebook", "server", "in", "background", "process", "." ]

[ "def", "open", "(", "self", ",", "filename", "=", "None", ")", ":", "if", "filename", "is", "None", ":", "address", "=", "self", ".", "address", "+", "'tree'", "else", ":", "notebook_path", "=", "self", ".", "resource_filename", "(", "filename", ")", "if", "not", "notebook_path", ".", "isfile", "(", ")", ":", "raise", "IOError", "(", "'Notebook path not found: %s'", "%", "notebook_path", ")", "else", ":", "address", "=", "'%snotebooks/%s'", "%", "(", "self", ".", "address", ",", "filename", ")", "webbrowser", ".", "open_new_tab", "(", "address", ")" ]

[ "Open", "a", "browser", "tab", "with", "the", "notebook", "path", "specified", "relative", "to", "the", "notebook", "directory", "." ]

[ "def", "get_session", "(", "self", ",", "notebook_dir", "=", "None", ",", "no_browser", "=", "True", ",", "*", "*", "kwargs", ")", ":", "if", "notebook_dir", "in", "self", ".", "sessions", "and", "self", ".", "sessions", "[", "notebook_dir", "]", ".", "is_alive", "(", ")", ":", "# Notebook process is already running for notebook directory,", "session", "=", "self", ".", "sessions", "[", "notebook_dir", "]", "if", "'daemon'", "in", "kwargs", ":", "# Override `daemon` setting of existing session.", "session", ".", "daemon", "=", "kwargs", "[", "'daemon'", "]", "if", "not", "no_browser", ":", "session", ".", "open", "(", ")", "else", ":", "# Notebook process is not running for notebook directory, so", "# start new IPython notebook process.", "# Use default `daemon` setting for manager if no specified.", "daemon", "=", "kwargs", ".", "pop", "(", "'daemon'", ",", "self", ".", "daemon", ")", "if", "no_browser", ":", "kwargs", "[", "'no_browser'", "]", "=", "None", "if", "notebook_dir", "is", "not", "None", ":", "kwargs", "[", "'notebook_dir'", "]", "=", "notebook_dir", "session", "=", "Session", "(", "daemon", "=", "daemon", ",", "*", "*", "kwargs", ")", "session", ".", "start", "(", ")", "self", ".", "sessions", "[", "str", "(", "session", ".", "notebook_dir", ")", "]", "=", "session", "return", "session" ]

[ "Return", "handle", "to", "IPython", "session", "for", "specified", "notebook", "directory", "." ]

[ "def", "get_blob", "(", "profile", ",", "sha", ")", ":", "resource", "=", "\"/blobs/\"", "+", "sha", "data", "=", "api", ".", "get_request", "(", "profile", ",", "resource", ")", "return", "prepare", "(", "data", ")" ]

[ "Fetch", "a", "blob", "." ]

[ "def", "create_blob", "(", "profile", ",", "content", ")", ":", "resource", "=", "\"/blobs\"", "payload", "=", "{", "\"content\"", ":", "content", "}", "data", "=", "api", ".", "post_request", "(", "profile", ",", "resource", ",", "payload", ")", "return", "data" ]

[ "Create", "a", "blob", "." ]

[ "def", "copy", "(", "self", ")", ":", "return", "Sequence", "(", "self", ".", "name", ",", "self", ".", "sequenceData", ",", "self", ".", "start", ",", "self", ".", "end", ",", "self", ".", "strand", ",", "self", ".", "remaining", ",", "self", ".", "meta_data", ",", "self", ".", "mutableString", ")" ]

[ "Copy", "constructor", "for", "Sequence", "objects", "." ]

[ "def", "effective_len", "(", "self", ")", ":", "if", "self", ".", "_effective_len", "is", "None", ":", "self", ".", "_effective_len", "=", "len", "(", "[", "nuc", "for", "nuc", "in", "self", ".", "sequenceData", "if", "nuc", "!=", "\"N\"", "and", "nuc", "!=", "\"n\"", "]", ")", "return", "self", ".", "_effective_len" ]

[ "Get", "the", "length", "of", "the", "sequence", "if", "N", "s", "are", "disregarded", "." ]

[ "def", "percentNuc", "(", "self", ",", "nuc", ")", ":", "count", "=", "reduce", "(", "lambda", "x", ",", "y", ":", "x", "+", "1", "if", "y", "==", "nuc", "else", "x", ",", "self", ".", "sequenceData", ",", "0", ")", "return", "count", "/", "float", "(", "len", "(", "self", ".", "sequenceData", ")", ")" ]

[ "return", "the", "percentage", "of", "the", "sequence", "which", "is", "equal", "to", "the", "passed", "nuc", "." ]

[ "def", "reverseComplement", "(", "self", ",", "isRNA", "=", "None", ")", ":", "isRNA_l", "=", "self", ".", "isRNA", "(", ")", "if", "isRNA", "is", "None", "else", "isRNA", "tmp", "=", "\"\"", "for", "n", "in", "self", ".", "sequenceData", ":", "if", "isRNA_l", ":", "tmp", "+=", "RNA_COMPLEMENTS", "[", "n", "]", "else", ":", "tmp", "+=", "DNA_COMPLEMENTS", "[", "n", "]", "self", ".", "sequenceData", "=", "tmp", "[", ":", ":", "-", "1", "]" ]

[ "Reverse", "complement", "this", "sequence", "in", "-", "place", "." ]

[ "def", "maskRegion", "(", "self", ",", "region", ")", ":", "if", "region", ".", "start", "<", "0", "or", "region", ".", "end", "<", "0", "or", "region", ".", "start", ">", "len", "(", "self", ")", "or", "region", ".", "end", ">", "len", "(", "self", ")", ":", "raise", "SequenceError", "(", "\"cannot mask region \"", "+", "str", "(", "region", ".", "start", ")", "+", "\" to \"", "+", "str", "(", "region", ".", "end", ")", "+", "\" in \"", "+", "self", ".", "name", "+", "\". \"", "+", "\"Region specifies nucleotides not present in \"", "+", "\"this read. Valid range would have been 0 -- \"", "+", "str", "(", "len", "(", "self", ")", ")", ")", "if", "self", ".", "mutableString", ":", "for", "i", "in", "range", "(", "region", ".", "start", ",", "region", ".", "end", "+", "1", ")", ":", "self", ".", "sequenceData", "[", "i", "]", "=", "'N'", "else", ":", "self", ".", "sequenceData", "=", "\"\"", ".", "join", "(", "[", "self", ".", "sequenceData", "[", ":", "region", ".", "start", "]", ",", "(", "\"N\"", "*", "(", "region", ".", "end", "-", "region", ".", "start", "+", "1", ")", ")", ",", "self", ".", "sequenceData", "[", "region", ".", "end", "+", "1", ":", "]", "]", ")" ]

[ "Replace", "nucleotides", "in", "this", "sequence", "in", "the", "regions", "given", "by", "Ns" ]

[ "def", "maskRegions", "(", "self", ",", "regions", ",", "verbose", "=", "False", ")", ":", "if", "verbose", ":", "pind", "=", "ProgressIndicator", "(", "totalToDo", "=", "len", "(", "regions", ")", ",", "messagePrefix", "=", "\"completed\"", ",", "messageSuffix", "=", "\"of masking regions in \"", "+", "self", ".", "name", ")", "for", "region", "in", "regions", ":", "self", ".", "maskRegion", "(", "region", ")", "if", "verbose", ":", "pind", ".", "done", "+=", "1", "pind", ".", "showProgress", "(", ")" ]

[ "Mask", "the", "given", "regions", "in", "this", "sequence", "with", "Ns", "." ]

[ "def", "split", "(", "self", ",", "point", "=", "None", ")", ":", "if", "point", "is", "None", ":", "point", "=", "len", "(", "self", ")", "/", "2", "r1", "=", "Sequence", "(", "self", ".", "name", "+", "\".1\"", ",", "self", ".", "sequenceData", "[", ":", "point", "]", ")", "r2", "=", "Sequence", "(", "self", ".", "name", "+", "\".2\"", ",", "self", ".", "sequenceData", "[", "point", ":", "]", ")", "return", "r1", ",", "r2" ]

[ "Split", "this", "sequence", "into", "two", "halves", "and", "return", "them", ".", "The", "original", "sequence", "remains", "unmodified", "." ]

[ "def", "maskMatch", "(", "self", ",", "mask", ")", ":", "if", "len", "(", "mask", ")", ">", "len", "(", "self", ".", "sequenceData", ")", ":", "return", "False", "lim", "=", "len", "(", "mask", ")", "for", "i", "in", "range", "(", "0", ",", "lim", ")", ":", "if", "mask", "[", "i", "]", "==", "\"N\"", "or", "mask", "[", "i", "]", "==", "\"n\"", ":", "continue", "if", "mask", "[", "i", "]", "!=", "self", ".", "sequenceData", "[", "i", "]", ":", "return", "False", "return", "True" ]

[ "Determine", "whether", "this", "sequence", "matches", "the", "given", "mask", "." ]

[ "def", "walk_recursive", "(", "f", ",", "data", ")", ":", "results", "=", "{", "}", "if", "isinstance", "(", "data", ",", "list", ")", ":", "return", "[", "walk_recursive", "(", "f", ",", "d", ")", "for", "d", "in", "data", "]", "elif", "isinstance", "(", "data", ",", "dict", ")", ":", "results", "=", "funcy", ".", "walk_keys", "(", "f", ",", "data", ")", "for", "k", ",", "v", "in", "data", ".", "iteritems", "(", ")", ":", "if", "isinstance", "(", "v", ",", "dict", ")", ":", "results", "[", "f", "(", "k", ")", "]", "=", "walk_recursive", "(", "f", ",", "v", ")", "elif", "isinstance", "(", "v", ",", "list", ")", ":", "results", "[", "f", "(", "k", ")", "]", "=", "[", "walk_recursive", "(", "f", ",", "d", ")", "for", "d", "in", "v", "]", "else", ":", "return", "f", "(", "data", ")", "return", "results" ]

[ "Recursively", "apply", "a", "function", "to", "all", "dicts", "in", "a", "nested", "dictionary" ]

[ "def", "add", "(", "self", ",", "config", ",", "strip_app_name", "=", "False", ",", "filter_by_app_name", "=", "False", ",", "key_normalisation_func", "=", "default_key_normalisation_func", ")", ":", "config", "=", "walk_recursive", "(", "key_normalisation_func", ",", "OrderedDict", "(", "config", ")", ")", "if", "filter_by_app_name", ":", "config", "=", "funcy", ".", "compact", "(", "funcy", ".", "select_keys", "(", "lambda", "k", ":", "k", ".", "startswith", "(", "self", ".", "_app_name", ")", ",", "config", ")", ")", "if", "strip_app_name", ":", "strip_app_name_regex", "=", "re", ".", "compile", "(", "\"^%s\"", "%", "self", ".", "_app_name", ")", "config", "=", "funcy", ".", "walk_keys", "(", "lambda", "k", ":", "re", ".", "sub", "(", "strip_app_name_regex", ",", "''", ",", "k", ")", ",", "config", ")", "self", ".", "_sources", ".", "append", "(", "config", ")", "return", "self" ]

[ "Add", "a", "dict", "of", "config", "data", ".", "Values", "from", "later", "dicts", "will", "take", "precedence", "over", "those", "added", "earlier", "so", "the", "order", "data", "is", "added", "matters", "." ]

[ "def", "set_param", "(", "self", ",", "name", ",", "value", ")", ":", "if", "name", "not", "in", "self", ".", "param_names", ":", "raise", "ValueError", "(", "'No GO-PCA Server parameter named \"%s\"!'", "%", "(", "param", ")", ")", "self", ".", "__params", "[", "name", "]", "=", "value" ]

[ "Set", "a", "GO", "-", "PCA", "Server", "parameter", "." ]

[ "def", "set_params", "(", "self", ",", "params", ")", ":", "for", "k", ",", "v", "in", "params", ".", "iteritems", "(", ")", ":", "self", ".", "set_param", "(", "k", ",", "v", ")" ]

[ "Sets", "multiple", "GO", "-", "PCA", "Server", "parameters", "using", "a", "dictionary", "." ]

[ "def", "reset_params", "(", "self", ")", ":", "self", ".", "__params", "=", "dict", "(", "[", "p", ",", "None", "]", "for", "p", "in", "self", ".", "param_names", ")", "self", ".", "set_params", "(", "self", ".", "param_defaults", ")" ]

[ "Reset", "all", "parameters", "to", "their", "default", "values", "." ]

[ "def", "create", "(", "cli", ",", "command", ",", "docker_id", ")", ":", "content", "=", "waybill_template", ".", "format", "(", "command", "=", "command", ",", "docker_id", "=", "docker_id", ")", "waybill_dir", "=", "cli", ".", "get_waybill_dir", "(", ")", "waybill_filename", "=", "os", ".", "path", ".", "join", "(", "waybill_dir", ",", "command", "+", "'.waybill'", ")", "with", "open", "(", "waybill_filename", ",", "'wb'", ")", "as", "filehandle", ":", "filehandle", ".", "write", "(", "content", ")", "cli", ".", "log", ".", "info", "(", "'Created waybill {0}'", ".", "format", "(", "waybill_filename", ")", ")" ]

[ "Creates", "waybill", "shims", "from", "a", "given", "command", "name", "and", "docker", "image" ]

[ "def", "load", "(", "cli", ",", "yaml_filename", ")", ":", "\"\"\"Expected Definition:\n - name: NAME\n docker_id: IMAGE\n - name: NAME\n docker_id: IMAGE\n \"\"\"", "with", "open", "(", "yaml_filename", ",", "'rb'", ")", "as", "filehandle", ":", "for", "waybill", "in", "yaml", ".", "load", "(", "filehandle", ".", "read", "(", ")", ")", ":", "cli", ".", "create", "(", "waybill", ".", "name", ",", "waybill", ".", "docker_id", ")" ]

[ "Creates", "waybill", "shims", "from", "a", "given", "yaml", "file", "definiations" ]

[ "def", "shellinit", "(", "cli", ")", ":", "output", "=", "'eval echo \"Initializing Waybills\"'", "if", "which", "(", "'docker'", ")", "is", "None", ":", "raise", "ValueError", "(", "\"Unable to find program 'docker'. Please make sure it is installed and setup properly\"", ")", "for", "waybill", "in", "cli", ".", "get_waybills", "(", ")", ":", "output", "+=", "' && source {0}'", ".", "format", "(", "waybill", ")", "return", "output" ]

[ "Implements", "the", "waybill", "shims", "in", "the", "active", "shell" ]

[ "def", "service_data", "(", "self", ")", ":", "# Lean on the cache first.", "if", "self", ".", "_loaded_service_data", "is", "not", "None", ":", "return", "self", ".", "_loaded_service_data", "# We don't have a cache. Build it.", "self", ".", "_loaded_service_data", "=", "self", ".", "_introspect_service", "(", "# We care about the ``botocore.session`` here, not the", "# ``kotocore.session``.", "self", ".", "session", ".", "core_session", ",", "self", ".", "service_name", ")", "# Clear out the API version, just in case.", "self", ".", "_api_version", "=", "None", "return", "self", ".", "_loaded_service_data" ]

[ "Returns", "all", "introspected", "service", "data", "." ]

[ "def", "api_version", "(", "self", ")", ":", "# Lean on the cache first.", "if", "self", ".", "_api_version", "is", "not", "None", ":", "return", "self", ".", "_api_version", "# We don't have a cache. Build it.", "self", ".", "_api_version", "=", "self", ".", "_introspect_api_version", "(", "self", ".", "session", ".", "core_session", ",", "self", ".", "service_name", ")", "return", "self", ".", "_api_version" ]

[ "Returns", "API", "version", "introspected", "from", "the", "service", "data", "." ]

[ "def", "construct_for", "(", "self", ",", "service_name", ")", ":", "# Construct a new ``ConnectionDetails`` (or similar class) for storing", "# the relevant details about the service & its operations.", "details", "=", "self", ".", "details_class", "(", "service_name", ",", "self", ".", "session", ")", "# Make sure the new class gets that ``ConnectionDetails`` instance as a", "# ``cls._details`` attribute.", "attrs", "=", "{", "'_details'", ":", "details", ",", "}", "# Determine what we should call it.", "klass_name", "=", "self", ".", "_build_class_name", "(", "service_name", ")", "# Construct what the class ought to have on it.", "attrs", ".", "update", "(", "self", ".", "_build_methods", "(", "details", ")", ")", "# Create the class.", "return", "type", "(", "klass_name", ",", "(", "self", ".", "base_connection", ",", ")", ",", "attrs", ")" ]

[ "Builds", "a", "new", "specialized", "Connection", "subclass", "for", "a", "given", "service", "." ]

[ "def", "getMoviesFromJSON", "(", "jsonURL", ")", ":", "response", "=", "urllib", ".", "request", ".", "urlopen", "(", "jsonURL", ")", "jsonData", "=", "response", ".", "read", "(", ")", ".", "decode", "(", "'utf-8'", ")", "objects", "=", "json", ".", "loads", "(", "jsonData", ")", "# make it work for search urls", "if", "jsonURL", ".", "find", "(", "'quickfind'", ")", "!=", "-", "1", ":", "objects", "=", "objects", "[", "'results'", "]", "optionalInfo", "=", "[", "'actors'", ",", "'directors'", ",", "'rating'", ",", "'genre'", ",", "'studio'", ",", "'releasedate'", "]", "movies", "=", "[", "]", "for", "obj", "in", "objects", ":", "movie", "=", "Movie", "(", ")", "movie", ".", "title", "=", "obj", "[", "'title'", "]", "movie", ".", "baseURL", "=", "obj", "[", "'location'", "]", "movie", ".", "posterURL", "=", "obj", "[", "'poster'", "]", "# sometimes posters don't have http part", "if", "movie", ".", "posterURL", ".", "find", "(", "'http:'", ")", "==", "-", "1", ":", "movie", ".", "posterURL", "=", "\"http://apple.com%s\"", "%", "movie", ".", "posterURL", "movie", ".", "trailers", "=", "obj", "[", "'trailers'", "]", "for", "i", "in", "optionalInfo", ":", "if", "i", "in", "obj", ":", "setattr", "(", "movie", ",", "i", ",", "obj", "[", "i", "]", ")", "movies", ".", "append", "(", "movie", ")", "return", "movies" ]

[ "Main", "function", "for", "this", "library" ]

[ "def", "get_description", "(", "self", ")", ":", "if", "self", ".", "_description", ":", "return", "self", ".", "_description", "try", ":", "trailerURL", "=", "\"http://trailers.apple.com%s\"", "%", "self", ".", "baseURL", "response", "=", "urllib", ".", "request", ".", "urlopen", "(", "trailerURL", ")", "Reader", "=", "codecs", ".", "getreader", "(", "\"utf-8\"", ")", "responseReader", "=", "Reader", "(", "response", ")", "trailerHTML", "=", "responseReader", ".", "read", "(", ")", "description", "=", "re", ".", "search", "(", "'<meta *name=\"Description\" *content=\"(.*?)\" *[/]*>'", ",", "trailerHTML", ")", "if", "description", ":", "self", ".", "_description", "=", "description", ".", "group", "(", "1", ")", "else", ":", "self", ".", "_description", "=", "\"None\"", "except", ":", "self", ".", "_description", "=", "\"Error\"", "return", "self", ".", "_description" ]

[ "Returns", "description", "text", "as", "provided", "by", "the", "studio" ]

[ "def", "_unwrap_one_layer", "(", "r", ",", "L", ",", "n", ")", ":", "try", ":", "L", "[", "0", "]", "except", "(", "TypeError", ",", "IndexError", ")", ":", "L", "=", "np", ".", "ones", "(", "[", "r", ".", "shape", "[", "1", "]", "]", ")", "*", "L", "if", "n", "==", "0", ":", "return", "list", "(", "r", ")", "rcu", "=", "[", "]", "for", "x", ",", "y", "in", "r", ":", "for", "ix", "in", "range", "(", "-", "n", ",", "n", "+", "1", ")", ":", "for", "iy", "in", "range", "(", "-", "n", ",", "n", "+", "1", ")", ":", "if", "abs", "(", "ix", ")", "==", "n", "or", "abs", "(", "iy", ")", "==", "n", ":", "rcu", ".", "append", "(", "np", ".", "array", "(", "[", "x", "+", "ix", "*", "L", "[", "0", "]", ",", "y", "+", "iy", "*", "L", "[", "1", "]", "]", ")", ")", "return", "rcu" ]

[ "For", "a", "set", "of", "points", "in", "a", "2", "dimensional", "periodic", "system", "extend", "the", "set", "of", "points", "to", "tile", "the", "points", "at", "a", "given", "period", "." ]

[ "def", "_unwrap_to_layer", "(", "r", ",", "L", ",", "n", "=", "1", ")", ":", "rcu", "=", "[", "]", "for", "i_n", "in", "range", "(", "n", "+", "1", ")", ":", "rcu", ".", "extend", "(", "_unwrap_one_layer", "(", "r", ",", "L", ",", "i_n", ")", ")", "return", "rcu" ]

[ "For", "a", "set", "of", "points", "in", "a", "2", "dimensional", "periodic", "system", "extend", "the", "set", "of", "points", "to", "tile", "the", "points", "up", "to", "to", "a", "given", "period", "." ]

[ "def", "draw_medium", "(", "r", ",", "R", ",", "L", ",", "n", "=", "1", ",", "ax", "=", "None", ")", ":", "if", "ax", "is", "None", ":", "ax", "=", "plt", ".", "gca", "(", ")", "for", "ru", "in", "_unwrap_to_layer", "(", "r", ",", "L", ",", "n", ")", ":", "c", "=", "plt", ".", "Circle", "(", "ru", ",", "radius", "=", "R", ",", "alpha", "=", "0.2", ")", "ax", ".", "add_artist", "(", "c", ")" ]

[ "Draw", "circles", "representing", "circles", "in", "a", "two", "-", "dimensional", "periodic", "system", ".", "Circles", "may", "be", "tiled", "up", "to", "a", "number", "of", "periods", "." ]

[ "def", "upload", "(", "self", ",", "# pylint: disable=too-many-arguments", "path", ",", "name", "=", "None", ",", "resize", "=", "False", ",", "rotation", "=", "False", ",", "callback_url", "=", "None", ",", "callback_method", "=", "None", ",", "auto_align", "=", "False", ",", ")", ":", "if", "name", "is", "None", ":", "head", ",", "tail", "=", "ntpath", ".", "split", "(", "path", ")", "name", "=", "tail", "or", "ntpath", ".", "basename", "(", "head", ")", "url", "=", "\"http://models.{}/model/\"", ".", "format", "(", "self", ".", "config", ".", "host", ")", "payload", "=", "{", "\"name\"", ":", "name", ",", "\"allowed_transformations\"", ":", "{", "\"resize\"", ":", "resize", ",", "\"rotation\"", ":", "rotation", ",", "}", ",", "\"auto-align\"", ":", "auto_align", "}", "if", "callback_url", "and", "callback_method", ":", "payload", "[", "\"callback\"", "]", "=", "{", "\"url\"", ":", "callback_url", ",", "\"method\"", ":", "callback_method", "}", "post_resp", "=", "requests", ".", "post", "(", "url", ",", "json", "=", "payload", ",", "cookies", "=", "{", "\"session\"", ":", "self", ".", "session", "}", ")", "if", "not", "post_resp", ".", "ok", ":", "raise", "errors", ".", "ResourceError", "(", "\"payload to model service invalid\"", ")", "self", ".", "name", "=", "name", "with", "open", "(", "path", ",", "\"rb\"", ")", "as", "model_file", ":", "put_resp", "=", "requests", ".", "put", "(", "post_resp", ".", "headers", "[", "\"x-upload-location\"", "]", ",", "data", "=", "model_file", ".", "read", "(", ")", ",", "headers", "=", "{", "\"Content-Type\"", ":", "\"application/octet-stream\"", "}", ")", "if", "not", "put_resp", ".", "ok", ":", "raise", "errors", ".", "ResourceError", "(", "\"model upload failed\"", ")", "self", ".", "location", "=", "post_resp", ".", "headers", "[", "\"Location\"", "]", "self", ".", "_state", "=", "self", ".", "_get_status", "(", ")" ]

[ "Create", "a", "new", "model", "resource", "in", "the", "warehouse", "and", "uploads", "the", "path", "contents", "to", "it" ]

[ "def", "download", "(", "self", ",", "path", ")", ":", "service_get_resp", "=", "requests", ".", "get", "(", "self", ".", "location", ",", "cookies", "=", "{", "\"session\"", ":", "self", ".", "session", "}", ")", "payload", "=", "service_get_resp", ".", "json", "(", ")", "self", ".", "_state", "=", "payload", "[", "\"status\"", "]", "if", "self", ".", "_state", "!=", "\"processed\"", ":", "raise", "errors", ".", "ResourceError", "(", "\"slice resource status is: {}\"", ".", "format", "(", "self", ".", "_state", ")", ")", "else", ":", "download_get_resp", "=", "requests", ".", "get", "(", "payload", "[", "\"content\"", "]", ")", "with", "open", "(", "path", ",", "\"wb\"", ")", "as", "model_file", ":", "model_file", ".", "write", "(", "download_get_resp", ".", "content", ")" ]

[ "downloads", "a", "model", "resource", "to", "the", "path" ]

[ "def", "to_dict", "(", "obj", ")", ":", "# Have text description of state in Json object (for readability)", "json_obj", "=", "{", "'type'", ":", "repr", "(", "obj", ")", "}", "# Add state-specific elementsTYPE_MODEL_RUN", "if", "obj", ".", "is_failed", ":", "json_obj", "[", "'errors'", "]", "=", "obj", ".", "errors", "elif", "obj", ".", "is_success", ":", "json_obj", "[", "'modelOutput'", "]", "=", "obj", ".", "model_output", "return", "json_obj" ]

[ "Generate", "a", "JSON", "serialization", "for", "the", "run", "state", "object", "." ]

[ "def", "create_object", "(", "self", ",", "name", ",", "experiment_id", ",", "model_id", ",", "argument_defs", ",", "arguments", "=", "None", ",", "properties", "=", "None", ")", ":", "# Create a new object identifier.", "identifier", "=", "str", "(", "uuid", ".", "uuid4", "(", ")", ")", ".", "replace", "(", "'-'", ",", "''", ")", "# Directory for successful model run resource files. Directories are", "# simply named by object identifier", "directory", "=", "os", ".", "path", ".", "join", "(", "self", ".", "directory", ",", "identifier", ")", "# Create the directory if it doesn't exists", "if", "not", "os", ".", "access", "(", "directory", ",", "os", ".", "F_OK", ")", ":", "os", ".", "makedirs", "(", "directory", ")", "# By default all model runs are in IDLE state at creation", "state", "=", "ModelRunIdle", "(", ")", "# Create the initial set of properties.", "run_properties", "=", "{", "datastore", ".", "PROPERTY_NAME", ":", "name", ",", "datastore", ".", "PROPERTY_STATE", ":", "str", "(", "state", ")", ",", "datastore", ".", "PROPERTY_MODEL", ":", "model_id", "}", "if", "not", "properties", "is", "None", ":", "for", "prop", "in", "properties", ":", "if", "not", "prop", "in", "run_properties", ":", "run_properties", "[", "prop", "]", "=", "properties", "[", "prop", "]", "# If argument list is not given then the initial set of arguments is", "# empty. Here we do not validate the given arguments. Definitions of", "# valid argument sets are maintained in the model registry and are not", "# accessible by the model run manager at this point.", "run_arguments", "=", "{", "}", "if", "not", "arguments", "is", "None", ":", "# Convert arguments to dictionary of Atrribute instances. Will", "# raise an exception if values are of invalid type.", "run_arguments", "=", "attribute", ".", "to_dict", "(", "arguments", ",", "argument_defs", ")", "# Create the image group object and store it in the database before", "# returning it.", "obj", "=", "ModelRunHandle", "(", "identifier", ",", "run_properties", ",", "directory", ",", "state", ",", "experiment_id", ",", "model_id", ",", "run_arguments", ")", "self", ".", "insert_object", "(", "obj", ")", "return", "obj" ]

[ "Create", "a", "model", "run", "object", "with", "the", "given", "list", "of", "arguments", ".", "The", "initial", "state", "of", "the", "object", "is", "RUNNING", "." ]

[ "def", "from_dict", "(", "self", ",", "document", ")", ":", "# Get object identifier from Json document", "identifier", "=", "str", "(", "document", "[", "'_id'", "]", ")", "# Directories are simply named by object identifier", "directory", "=", "os", ".", "path", ".", "join", "(", "self", ".", "directory", ",", "identifier", ")", "# Create attachment descriptors", "attachments", "=", "{", "}", "for", "obj", "in", "document", "[", "'attachments'", "]", ":", "attachment", "=", "Attachment", ".", "from_dict", "(", "obj", ")", "attachments", "[", "attachment", ".", "identifier", "]", "=", "attachment", "# Create model run handle.", "return", "ModelRunHandle", "(", "identifier", ",", "document", "[", "'properties'", "]", ",", "directory", ",", "ModelRunState", ".", "from_dict", "(", "document", "[", "'state'", "]", ")", ",", "document", "[", "'experiment'", "]", ",", "document", "[", "'model'", "]", ",", "attribute", ".", "attributes_from_dict", "(", "document", "[", "'arguments'", "]", ")", ",", "attachments", "=", "attachments", ",", "schedule", "=", "document", "[", "'schedule'", "]", ",", "timestamp", "=", "datetime", ".", "datetime", ".", "strptime", "(", "document", "[", "'timestamp'", "]", ",", "'%Y-%m-%dT%H:%M:%S.%f'", ")", ",", "is_active", "=", "document", "[", "'active'", "]", ")" ]

[ "Create", "model", "run", "object", "from", "JSON", "document", "retrieved", "from", "database", "." ]

[ "def", "get_data_file_attachment", "(", "self", ",", "identifier", ",", "resource_id", ")", ":", "# Get model run to ensure that it exists. If not return None", "model_run", "=", "self", ".", "get_object", "(", "identifier", ")", "if", "model_run", "is", "None", ":", "return", "None", ",", "None", "# Ensure that attachment with given resource identifier exists.", "if", "not", "resource_id", "in", "model_run", ".", "attachments", ":", "return", "None", ",", "None", "# Raise an exception if the attached resource is not a data file", "attachment", "=", "model_run", ".", "attachments", "[", "resource_id", "]", "filename", "=", "os", ".", "path", ".", "join", "(", "model_run", ".", "attachment_directory", ",", "resource_id", ")", "return", "filename", ",", "attachment", ".", "mime_type" ]

[ "Get", "path", "to", "attached", "data", "file", "with", "given", "resource", "identifer", ".", "If", "no", "data", "file", "with", "given", "id", "exists", "the", "result", "will", "be", "None", "." ]

[ "def", "to_dict", "(", "self", ",", "model_run", ")", ":", "# Get the basic Json object from the super class", "json_obj", "=", "super", "(", "DefaultModelRunManager", ",", "self", ")", ".", "to_dict", "(", "model_run", ")", "# Add run state", "json_obj", "[", "'state'", "]", "=", "ModelRunState", ".", "to_dict", "(", "model_run", ".", "state", ")", "# Add run scheduling Timestamps", "json_obj", "[", "'schedule'", "]", "=", "model_run", ".", "schedule", "# Add experiment information", "json_obj", "[", "'experiment'", "]", "=", "model_run", ".", "experiment_id", "# Add model information", "json_obj", "[", "'model'", "]", "=", "model_run", ".", "model_id", "# Transform dictionary of attributes into list of key-value pairs.", "json_obj", "[", "'arguments'", "]", "=", "attribute", ".", "attributes_to_dict", "(", "model_run", ".", "arguments", ")", "# Include attachments", "json_obj", "[", "'attachments'", "]", "=", "[", "attachment", ".", "to_dict", "(", ")", "for", "attachment", "in", "model_run", ".", "attachments", ".", "values", "(", ")", "]", "return", "json_obj" ]

[ "Create", "a", "Json", "-", "like", "dictionary", "for", "a", "model", "run", "object", ".", "Extends", "the", "basic", "object", "with", "run", "state", "arguments", "and", "optional", "prediction", "results", "or", "error", "descriptions", "." ]

[ "def", "update_state", "(", "self", ",", "identifier", ",", "state", ")", ":", "# Get model run to ensure that it exists", "model_run", "=", "self", ".", "get_object", "(", "identifier", ")", "if", "model_run", "is", "None", ":", "return", "None", "# Set timestamp of state change. Raise exception if state change results", "# in invalid life cycle", "timestamp", "=", "str", "(", "datetime", ".", "datetime", ".", "utcnow", "(", ")", ".", "isoformat", "(", ")", ")", "if", "state", ".", "is_idle", ":", "raise", "ValueError", "(", "'invalid state change: run cannot become idle'", ")", "elif", "state", ".", "is_running", ":", "# Current state is required to be IDLE", "if", "not", "model_run", ".", "state", ".", "is_idle", ":", "raise", "ValueError", "(", "'invalid state change: finished run cannot start again'", ")", "model_run", ".", "schedule", "[", "RUN_STARTED", "]", "=", "timestamp", "elif", "state", ".", "is_failed", ":", "# Current state is required to be RUNNING", "if", "not", "(", "model_run", ".", "state", ".", "is_running", "or", "model_run", ".", "state", ".", "is_idle", ")", ":", "raise", "ValueError", "(", "'invalid state change: cannot fail finished run'", ")", "model_run", ".", "schedule", "[", "RUN_FINISHED", "]", "=", "timestamp", "elif", "state", ".", "is_success", ":", "# Current state is required to be RUNNING", "if", "not", "model_run", ".", "state", ".", "is_running", ":", "raise", "ValueError", "(", "'invalid state change: cannot finish inactive run'", ")", "model_run", ".", "schedule", "[", "RUN_FINISHED", "]", "=", "timestamp", "# Update model run state and replace object in database", "model_run", ".", "state", "=", "state", "model_run", ".", "properties", "[", "datastore", ".", "PROPERTY_STATE", "]", "=", "str", "(", "state", ")", "self", ".", "replace_object", "(", "model_run", ")", "# Return modified model run", "return", "model_run" ]

[ "Update", "state", "of", "identified", "model", "run", "." ]

[ "def", "partial_update", "(", "self", ",", "request", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "instance", "=", "self", ".", "get_object", "(", ")", "serializer", "=", "self", ".", "get_serializer", "(", "instance", ",", "data", "=", "request", ".", "data", ",", "partial", "=", "True", ",", "context", "=", "self", ".", "get_serializer_context", "(", ")", ")", "serializer", ".", "is_valid", "(", "raise_exception", "=", "True", ")", "serializer", ".", "save", "(", ")", "if", "getattr", "(", "instance", ",", "'_prefetched_objects_cache'", ",", "None", ")", ":", "#pragma: no cover", "instance", "=", "self", ".", "get_object", "(", ")", "serializer", "=", "self", ".", "get_serializer", "(", "instance", ")", "return", "response", ".", "Response", "(", "serializer", ".", "data", ")" ]

[ "We", "do", "not", "include", "the", "mixin", "as", "we", "want", "only", "PATCH", "and", "no", "PUT" ]

[ "def", "connect", "(", "self", ")", ":", "vvv", "(", "\"ESTABLISH CONNECTION FOR USER: %s\"", "%", "self", ".", "runner", ".", "remote_user", ",", "host", "=", "self", ".", "host", ")", "self", ".", "common_args", "=", "[", "]", "extra_args", "=", "C", ".", "ANSIBLE_SSH_ARGS", "if", "extra_args", "is", "not", "None", ":", "self", ".", "common_args", "+=", "shlex", ".", "split", "(", "extra_args", ")", "else", ":", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"ControlMaster=auto\"", ",", "\"-o\"", ",", "\"ControlPersist=60s\"", ",", "\"-o\"", ",", "\"ControlPath=/tmp/ansible-ssh-%h-%p-%r\"", "]", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"StrictHostKeyChecking=no\"", "]", "if", "self", ".", "port", "is", "not", "None", ":", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"Port=%d\"", "%", "(", "self", ".", "port", ")", "]", "if", "self", ".", "runner", ".", "private_key_file", "is", "not", "None", ":", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"IdentityFile=\"", "+", "os", ".", "path", ".", "expanduser", "(", "self", ".", "runner", ".", "private_key_file", ")", "]", "if", "self", ".", "runner", ".", "remote_pass", ":", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"GSSAPIAuthentication=no\"", ",", "\"-o\"", ",", "\"PubkeyAuthentication=no\"", "]", "else", ":", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"KbdInteractiveAuthentication=no\"", ",", "\"-o\"", ",", "\"PasswordAuthentication=no\"", "]", "self", ".", "common_args", "+=", "[", "\"-o\"", ",", "\"User=\"", "+", "self", ".", "runner", ".", "remote_user", "]", "return", "self" ]

[ "connect", "to", "the", "remote", "host" ]

[ "def", "fetch_file", "(", "self", ",", "in_path", ",", "out_path", ")", ":", "vvv", "(", "\"FETCH %s TO %s\"", "%", "(", "in_path", ",", "out_path", ")", ",", "host", "=", "self", ".", "host", ")", "cmd", "=", "self", ".", "_password_cmd", "(", ")", "if", "C", ".", "DEFAULT_SCP_IF_SSH", ":", "cmd", "+=", "[", "\"scp\"", "]", "+", "self", ".", "common_args", "cmd", "+=", "[", "self", ".", "host", "+", "\":\"", "+", "in_path", ",", "out_path", "]", "indata", "=", "None", "else", ":", "cmd", "+=", "[", "\"sftp\"", "]", "+", "self", ".", "common_args", "+", "[", "self", ".", "host", "]", "indata", "=", "\"get %s %s\\n\"", "%", "(", "in_path", ",", "out_path", ")", "p", "=", "subprocess", ".", "Popen", "(", "cmd", ",", "stdin", "=", "subprocess", ".", "PIPE", ",", "stdout", "=", "subprocess", ".", "PIPE", ",", "stderr", "=", "subprocess", ".", "PIPE", ")", "self", ".", "_send_password", "(", ")", "stdout", ",", "stderr", "=", "p", ".", "communicate", "(", "indata", ")", "if", "p", ".", "returncode", "!=", "0", ":", "raise", "errors", ".", "AnsibleError", "(", "\"failed to transfer file from %s:\\n%s\\n%s\"", "%", "(", "in_path", ",", "stdout", ",", "stderr", ")", ")" ]

[ "fetch", "a", "file", "from", "remote", "to", "local" ]

[ "def", "save_form", "(", "self", ",", "request", ",", "form", ",", "change", ")", ":", "OwnableAdmin", ".", "save_form", "(", "self", ",", "request", ",", "form", ",", "change", ")", "return", "DisplayableAdmin", ".", "save_form", "(", "self", ",", "request", ",", "form", ",", "change", ")" ]

[ "Super", "class", "ordering", "is", "important", "here", "-", "user", "must", "get", "saved", "first", "." ]

[ "def", "has_module_permission", "(", "self", ",", "request", ")", ":", "for", "(", "name", ",", "items", ")", "in", "settings", ".", "ADMIN_MENU_ORDER", ":", "if", "\"blog.BlogCategory\"", "in", "items", ":", "return", "True", "return", "False" ]

[ "Hide", "from", "the", "admin", "menu", "unless", "explicitly", "set", "in", "ADMIN_MENU_ORDER", "." ]

[ "def", "env", "(", "*", "vars", ",", "*", "*", "kwargs", ")", ":", "for", "v", "in", "vars", ":", "value", "=", "os", ".", "environ", ".", "get", "(", "v", ")", "if", "value", ":", "return", "value", "return", "kwargs", ".", "get", "(", "'default'", ",", "''", ")" ]

[ "Returns", "the", "first", "environment", "variable", "set", "." ]

[ "def", "get_client_class", "(", "api_name", ",", "version", ",", "version_map", ")", ":", "try", ":", "client_path", "=", "version_map", "[", "str", "(", "version", ")", "]", "except", "(", "KeyError", ",", "ValueError", ")", ":", "msg", "=", "_", "(", "\"Invalid %(api_name)s client version '%(version)s'. must be \"", "\"one of: %(map_keys)s\"", ")", "msg", "=", "msg", "%", "{", "'api_name'", ":", "api_name", ",", "'version'", ":", "version", ",", "'map_keys'", ":", "', '", ".", "join", "(", "version_map", ".", "keys", "(", ")", ")", "}", "raise", "exceptions", ".", "UnsupportedVersion", "(", "msg", ")", "return", "importutils", ".", "import_class", "(", "client_path", ")" ]

[ "Returns", "the", "client", "class", "for", "the", "requested", "API", "version", "." ]

[ "def", "get_item_properties", "(", "item", ",", "fields", ",", "mixed_case_fields", "=", "(", ")", ",", "formatters", "=", "None", ")", ":", "if", "formatters", "is", "None", ":", "formatters", "=", "{", "}", "row", "=", "[", "]", "for", "field", "in", "fields", ":", "if", "field", "in", "formatters", ":", "row", ".", "append", "(", "formatters", "[", "field", "]", "(", "item", ")", ")", "else", ":", "if", "field", "in", "mixed_case_fields", ":", "field_name", "=", "field", ".", "replace", "(", "' '", ",", "'_'", ")", "else", ":", "field_name", "=", "field", ".", "lower", "(", ")", ".", "replace", "(", "' '", ",", "'_'", ")", "if", "not", "hasattr", "(", "item", ",", "field_name", ")", "and", "isinstance", "(", "item", ",", "dict", ")", ":", "data", "=", "item", "[", "field_name", "]", "else", ":", "data", "=", "getattr", "(", "item", ",", "field_name", ",", "''", ")", "if", "data", "is", "None", ":", "data", "=", "''", "row", ".", "append", "(", "data", ")", "return", "tuple", "(", "row", ")" ]

[ "Return", "a", "tuple", "containing", "the", "item", "properties", "." ]

[ "def", "str2dict", "(", "strdict", ",", "required_keys", "=", "None", ",", "optional_keys", "=", "None", ")", ":", "result", "=", "{", "}", "if", "strdict", ":", "for", "kv", "in", "strdict", ".", "split", "(", "','", ")", ":", "key", ",", "sep", ",", "value", "=", "kv", ".", "partition", "(", "'='", ")", "if", "not", "sep", ":", "msg", "=", "_", "(", "\"invalid key-value '%s', expected format: key=value\"", ")", "raise", "argparse", ".", "ArgumentTypeError", "(", "msg", "%", "kv", ")", "result", "[", "key", "]", "=", "value", "valid_keys", "=", "set", "(", "required_keys", "or", "[", "]", ")", "|", "set", "(", "optional_keys", "or", "[", "]", ")", "if", "valid_keys", ":", "invalid_keys", "=", "[", "k", "for", "k", "in", "result", "if", "k", "not", "in", "valid_keys", "]", "if", "invalid_keys", ":", "msg", "=", "_", "(", "\"Invalid key(s) '%(invalid_keys)s' specified. \"", "\"Valid key(s): '%(valid_keys)s'.\"", ")", "raise", "argparse", ".", "ArgumentTypeError", "(", "msg", "%", "{", "'invalid_keys'", ":", "', '", ".", "join", "(", "sorted", "(", "invalid_keys", ")", ")", ",", "'valid_keys'", ":", "', '", ".", "join", "(", "sorted", "(", "valid_keys", ")", ")", "}", ")", "if", "required_keys", ":", "not_found_keys", "=", "[", "k", "for", "k", "in", "required_keys", "if", "k", "not", "in", "result", "]", "if", "not_found_keys", ":", "msg", "=", "_", "(", "\"Required key(s) '%s' not specified.\"", ")", "raise", "argparse", ".", "ArgumentTypeError", "(", "msg", "%", "', '", ".", "join", "(", "not_found_keys", ")", ")", "return", "result" ]

[ "Convert", "key1", "=", "value1", "key2", "=", "value2", "...", "string", "into", "dictionary", "." ]

[ "def", "loads", "(", "cls", ",", "data", ")", ":", "rep", "=", "cbor", ".", "loads", "(", "data", ")", "if", "not", "isinstance", "(", "rep", ",", "Sequence", ")", ":", "raise", "SerializationError", "(", "'expected a CBOR list'", ")", "if", "len", "(", "rep", ")", "!=", "2", ":", "raise", "SerializationError", "(", "'expected a CBOR list of 2 items'", ")", "metadata", "=", "rep", "[", "0", "]", "if", "'v'", "not", "in", "metadata", ":", "raise", "SerializationError", "(", "'no version in CBOR metadata'", ")", "if", "metadata", "[", "'v'", "]", "!=", "'fc01'", ":", "raise", "SerializationError", "(", "'invalid CBOR version {!r} '", "'(expected \"fc01\")'", ".", "format", "(", "metadata", "[", "'v'", "]", ")", ")", "read_only", "=", "metadata", ".", "get", "(", "'ro'", ",", "False", ")", "contents", "=", "rep", "[", "1", "]", "return", "cls", ".", "from_dict", "(", "contents", ",", "read_only", "=", "read_only", ")" ]

[ "Create", "a", "feature", "collection", "from", "a", "CBOR", "byte", "string", "." ]

[ "def", "dumps", "(", "self", ")", ":", "metadata", "=", "{", "'v'", ":", "'fc01'", "}", "if", "self", ".", "read_only", ":", "metadata", "[", "'ro'", "]", "=", "1", "rep", "=", "[", "metadata", ",", "self", ".", "to_dict", "(", ")", "]", "return", "cbor", ".", "dumps", "(", "rep", ")" ]

[ "Create", "a", "CBOR", "byte", "string", "from", "a", "feature", "collection", "." ]

[ "def", "from_dict", "(", "cls", ",", "data", ",", "read_only", "=", "False", ")", ":", "fc", "=", "cls", "(", "read_only", "=", "read_only", ")", "fc", ".", "_features", "=", "{", "}", "fc", ".", "_from_dict_update", "(", "data", ")", "return", "fc" ]

[ "Recreate", "a", "feature", "collection", "from", "a", "dictionary", "." ]