Datasets:

---

CM

/

codexglue_code2text_python

like 8

[ "def", "updatewhere", "(", "clas", ",", "pool_or_cursor", ",", "where_keys", ",", "*", "*", "update_keys", ")", ":", "# if clas.JSONFIELDS: raise NotImplementedError # todo(awinter): do I need to make the same change for SpecialField?\r", "if", "not", "where_keys", "or", "not", "update_keys", ":", "raise", "ValueError", "setclause", "=", "','", ".", "join", "(", "k", "+", "'=%s'", "for", "k", "in", "update_keys", ")", "whereclause", "=", "' and '", ".", "join", "(", "eqexpr", "(", "k", ",", "v", ")", "for", "k", ",", "v", "in", "where_keys", ".", "items", "(", ")", ")", "q", "=", "'update %s set %s where %s'", "%", "(", "clas", ".", "TABLE", ",", "setclause", ",", "whereclause", ")", "vals", "=", "tuple", "(", "update_keys", ".", "values", "(", ")", "+", "where_keys", ".", "values", "(", ")", ")", "commit_or_execute", "(", "pool_or_cursor", ",", "q", ",", "vals", ")" ]

[ "this", "doesn", "t", "allow", "raw_keys", "for", "now" ]

[ "def", "clean_to_decimal", "(", "x", ",", "prec", "=", "28", ")", ":", "import", "numpy", "as", "np", "import", "pandas", "as", "pd", "import", "decimal", "def", "proc_elem", "(", "e", ")", ":", "try", ":", "return", "decimal", ".", "Decimal", "(", "e", ")", "+", "decimal", ".", "Decimal", "(", "'0.0'", ")", "except", "Exception", "as", "e", ":", "print", "(", "e", ")", "return", "None", "def", "proc_list", "(", "x", ")", ":", "return", "[", "proc_elem", "(", "e", ")", "for", "e", "in", "x", "]", "def", "proc_ndarray", "(", "x", ")", ":", "tmp", "=", "proc_list", "(", "list", "(", "x", ".", "reshape", "(", "(", "x", ".", "size", ",", ")", ")", ")", ")", "return", "np", ".", "array", "(", "tmp", ")", ".", "reshape", "(", "x", ".", "shape", ")", "# set precision", "if", "prec", ":", "decimal", ".", "getcontext", "(", ")", ".", "prec", "=", "prec", "# transform string, list/tuple, numpy array, pandas dataframe", "if", "isinstance", "(", "x", ",", "(", "str", ",", "int", ",", "float", ")", ")", ":", "return", "proc_elem", "(", "x", ")", "elif", "isinstance", "(", "x", ",", "(", "list", ",", "tuple", ")", ")", ":", "return", "proc_list", "(", "x", ")", "elif", "isinstance", "(", "x", ",", "np", ".", "ndarray", ")", ":", "return", "proc_ndarray", "(", "x", ")", "elif", "isinstance", "(", "x", ",", "pd", ".", "DataFrame", ")", ":", "return", "pd", ".", "DataFrame", "(", "proc_ndarray", "(", "x", ".", "values", ")", ",", "columns", "=", "x", ".", "columns", ",", "index", "=", "x", ".", "index", ")", "else", ":", "return", "None" ]

[ "Convert", "an", "string", "int", "or", "float", "to", "Decimal", "object" ]

[ "def", "rating_for", "(", "context", ",", "obj", ")", ":", "context", "[", "\"rating_object\"", "]", "=", "context", "[", "\"rating_obj\"", "]", "=", "obj", "context", "[", "\"rating_form\"", "]", "=", "RatingForm", "(", "context", "[", "\"request\"", "]", ",", "obj", ")", "ratings", "=", "context", "[", "\"request\"", "]", ".", "COOKIES", ".", "get", "(", "\"yacms-rating\"", ",", "\"\"", ")", "rating_string", "=", "\"%s.%s\"", "%", "(", "obj", ".", "_meta", ",", "obj", ".", "pk", ")", "context", "[", "\"rated\"", "]", "=", "(", "rating_string", "in", "ratings", ")", "rating_name", "=", "obj", ".", "get_ratingfield_name", "(", ")", "for", "f", "in", "(", "\"average\"", ",", "\"count\"", ",", "\"sum\"", ")", ":", "context", "[", "\"rating_\"", "+", "f", "]", "=", "getattr", "(", "obj", ",", "\"%s_%s\"", "%", "(", "rating_name", ",", "f", ")", ")", "return", "context" ]

[ "Provides", "a", "generic", "context", "variable", "name", "for", "the", "object", "that", "ratings", "are", "being", "rendered", "for", "and", "the", "rating", "form", "." ]

[ "def", "get_attr_info", "(", "binary_view", ")", ":", "global", "_ATTR_BASIC", "attr_type", ",", "attr_len", ",", "non_resident", "=", "_ATTR_BASIC", ".", "unpack", "(", "binary_view", "[", ":", "9", "]", ")", "return", "(", "AttrTypes", "(", "attr_type", ")", ",", "attr_len", ",", "bool", "(", "non_resident", ")", ")" ]

[ "Gets", "basic", "information", "from", "a", "binary", "stream", "to", "allow", "correct", "processing", "of", "the", "attribute", "header", "." ]

[ "def", "_create_attrcontent_class", "(", "name", ",", "fields", ",", "inheritance", "=", "(", "object", ",", ")", ",", "data_structure", "=", "None", ",", "extra_functions", "=", "None", ",", "docstring", "=", "\"\"", ")", ":", "def", "create_func_from_str", "(", "f_name", ",", "args", ",", "content", ",", "docstring", "=", "\"\"", ")", ":", "'''Helper function to create functions from strings.\n\n To improve performance, the standard functions are created at runtime\n based on the string derived from the content. This way the function, from\n the interpreter point of view, looks like statically defined.\n\n Note:\n This function should be used only for methods that will receive\n ``self`` (instace methods). The ``self`` argument is added automatically.\n\n Args:\n f_name (str): Function name\n args (list(str)): List of extra arguments that the function will receive\n content (str): Content of the function\n docstring (str): Function's docstring\n\n Returns:\n A new function object that can be inserted in the class.\n '''", "exec_namespace", "=", "{", "\"__name__\"", ":", "f\"{f_name}\"", "}", "new_args", "=", "\", \"", ".", "join", "(", "[", "\"self\"", "]", "+", "args", ")", "func_str", "=", "f\"def {f_name}({new_args}): {content}\"", "exec", "(", "func_str", ",", "exec_namespace", ")", "func", "=", "exec_namespace", "[", "f_name", "]", "func", ".", "__doc__", "=", "docstring", "return", "func", "#creates the functions necessary for the new class", "slots", "=", "fields", "init_content", "=", "\", \"", ".", "join", "(", "[", "f\"self.{field}\"", "for", "field", "in", "fields", "]", ")", "+", "\" = content\"", "__init__", "=", "create_func_from_str", "(", "\"__init__\"", ",", "[", "f\"content=(None,)*{len(fields)}\"", "]", ",", "init_content", ")", "temp", "=", "\", \"", ".", "join", "(", "[", "f\"{field}={{self.{field}}}\"", "for", "field", "in", "fields", "]", ")", "repr", "=", "\"return \"", "+", "f\"f\\'{{self.__class__.__name__}}({temp})\\'\"", "__repr__", "=", "create_func_from_str", "(", "\"__repr__\"", ",", "[", "]", ",", "repr", ")", "temp", "=", "\" and \"", ".", "join", "(", "[", "f\"self.{field} == other.{field}\"", "for", "field", "in", "fields", "]", ")", "eq", "=", "f\"return {temp} if isinstance(other, {name}) else False\"", "__eq__", "=", "create_func_from_str", "(", "\"__eq__\"", ",", "[", "\"other\"", "]", ",", "eq", ")", "@", "classmethod", "def", "get_representation_size", "(", "cls", ")", ":", "return", "cls", ".", "_REPR", ".", "size", "#adapted from namedtuple code", "# Modify function metadata to help with introspection and debugging", "for", "method", "in", "(", "__init__", ",", "get_representation_size", ".", "__func__", ",", "__eq__", ",", "__repr__", ")", ":", "method", ".", "__qualname__", "=", "f'{name}.{method.__name__}'", "#map class namespace for the class creation", "namespace", "=", "{", "\"__slots__\"", ":", "slots", ",", "\"__init__\"", ":", "__init__", ",", "\"__repr__\"", ":", "__repr__", ",", "\"__eq__\"", ":", "__eq__", "}", "if", "data_structure", "is", "not", "None", ":", "namespace", "[", "\"_REPR\"", "]", "=", "struct", ".", "Struct", "(", "data_structure", ")", "namespace", "[", "\"get_representation_size\"", "]", "=", "get_representation_size", "if", "docstring", ":", "namespace", "[", "\"__doc__\"", "]", "=", "docstring", "#some new mappings can be set or overload the ones defined", "if", "extra_functions", "is", "not", "None", ":", "for", "method", "in", "extra_functions", ".", "values", "(", ")", ":", "try", ":", "method", ".", "__qualname__", "=", "f'{name}.{method.__name__}'", "except", "AttributeError", ":", "try", ":", "method", ".", "__func__", ".", "__qualname__", "=", "f'{name}.{method.__func__.__name__}'", "except", "AttributeError", ":", "#if we got here, it is not a method or classmethod, must be an attribute", "#TODO feels like a hack, change it", "#TODO design a test for this", "pass", "namespace", "=", "{", "*", "*", "namespace", ",", "*", "*", "extra_functions", "}", "#TODO check if docstring was provided, issue a warning", "new_class", "=", "type", "(", "name", ",", "inheritance", ",", "namespace", ")", "# adapted from namedtuple code", "# For pickling to work, the __module__ variable needs to be set to the frame", "# where the named tuple is created. Bypass this step in environments where", "# sys._getframe is not defined (Jython for example) or sys._getframe is not", "# defined for arguments greater than 0 (IronPython), or where the user has", "# specified a particular module.", "try", ":", "new_class", ".", "__module__", "=", "_sys", ".", "_getframe", "(", "1", ")", ".", "f_globals", ".", "get", "(", "'__name__'", ",", "'__main__'", ")", "except", "(", "AttributeError", ",", "ValueError", ")", ":", "pass", "return", "new_class" ]

[ "Helper", "function", "that", "creates", "a", "class", "for", "attribute", "contents", "." ]

[ "def", "_astimezone_ts", "(", "self", ",", "timezone", ")", ":", "if", "self", ".", "created", ".", "tzinfo", "is", "timezone", ":", "return", "self", "else", ":", "nw_obj", "=", "Timestamps", "(", "(", "None", ",", ")", "*", "4", ")", "nw_obj", ".", "created", "=", "self", ".", "created", ".", "astimezone", "(", "timezone", ")", "nw_obj", ".", "changed", "=", "self", ".", "changed", ".", "astimezone", "(", "timezone", ")", "nw_obj", ".", "mft_changed", "=", "self", ".", "mft_changed", ".", "astimezone", "(", "timezone", ")", "nw_obj", ".", "accessed", "=", "self", ".", "accessed", ".", "astimezone", "(", "timezone", ")", "return", "nw_obj" ]

[ "Changes", "the", "time", "zones", "of", "all", "timestamps", "." ]

[ "def", "_len_objid", "(", "self", ")", ":", "try", ":", "return", "self", ".", "_size", "except", "AttributeError", ":", "temp", "=", "(", "self", ".", "object_id", ",", "self", ".", "birth_vol_id", ",", "self", ".", "birth_object_id", ",", "self", ".", "birth_domain_id", ")", "self", ".", "_size", "=", "sum", "(", "[", "ObjectID", ".", "_UUID_SIZE", "for", "data", "in", "temp", "if", "data", "is", "not", "None", "]", ")", "return", "self", ".", "_size" ]

[ "Get", "the", "actual", "size", "of", "the", "content", "as", "some", "attributes", "have", "variable", "sizes" ]

[ "def", "_allocated_entries_bitmap", "(", "self", ")", ":", "for", "entry_number", "in", "range", "(", "len", "(", "self", ".", "_bitmap", ")", "*", "8", ")", ":", "if", "self", ".", "entry_allocated", "(", "entry_number", ")", ":", "yield", "entry_number" ]

[ "Creates", "a", "generator", "that", "returns", "all", "allocated", "entries", "in", "the", "bitmap", "." ]

[ "def", "_entry_allocated_bitmap", "(", "self", ",", "entry_number", ")", ":", "index", ",", "offset", "=", "divmod", "(", "entry_number", ",", "8", ")", "return", "bool", "(", "self", ".", "_bitmap", "[", "index", "]", "&", "(", "1", "<<", "offset", ")", ")" ]

[ "Checks", "if", "a", "particular", "index", "is", "allocated", "." ]

[ "def", "_get_next_empty_bitmap", "(", "self", ")", ":", "#TODO probably not the best way, redo", "for", "i", ",", "byte", "in", "enumerate", "(", "self", ".", "_bitmap", ")", ":", "if", "byte", "!=", "255", ":", "for", "offset", "in", "range", "(", "8", ")", ":", "if", "not", "byte", "&", "(", "1", "<<", "offset", ")", ":", "return", "(", "i", "*", "8", ")", "+", "offset" ]

[ "Returns", "the", "next", "empty", "entry", "." ]

[ "def", "_len_ea_entry", "(", "self", ")", ":", "return", "EaEntry", ".", "_REPR", ".", "size", "+", "len", "(", "self", ".", "name", ".", "encode", "(", "\"ascii\"", ")", ")", "+", "self", ".", "value_len" ]

[ "Returns", "the", "size", "of", "the", "entry" ]

[ "def", "_str_sid", "(", "self", ")", ":", "sub_auths", "=", "\"-\"", ".", "join", "(", "[", "str", "(", "sub", ")", "for", "sub", "in", "self", ".", "sub_authorities", "]", ")", "return", "f'S-{self.revision_number}-{self.authority}-{sub_auths}'" ]

[ "Return", "a", "nicely", "formatted", "representation", "string" ]

[ "def", "_len_sec_desc", "(", "self", ")", ":", "return", "len", "(", "self", ".", "header", ")", "+", "len", "(", "self", ".", "owner_sid", ")", "+", "len", "(", "self", ".", "group_sid", ")", "+", "len", "(", "self", ".", "sacl", ")", "+", "len", "(", "self", ".", "dacl", ")" ]

[ "Returns", "the", "logical", "size", "of", "the", "file" ]

[ "def", "create_from_binary", "(", "cls", ",", "binary_view", ")", ":", "nw_obj", "=", "cls", "(", ")", "offset", "=", "0", "previous_dr_offset", "=", "0", "header_size", "=", "cls", ".", "_INFO", ".", "size", "#\"header\" of a data run is always a byte", "while", "binary_view", "[", "offset", "]", "!=", "0", ":", "#the runlist ends with an 0 as the \"header\"", "header", "=", "cls", ".", "_INFO", ".", "unpack", "(", "binary_view", "[", "offset", ":", "offset", "+", "header_size", "]", ")", "[", "0", "]", "length_len", "=", "header", "&", "0x0F", "length_offset", "=", "(", "header", "&", "0xF0", ")", ">>", "4", "temp_len", "=", "offset", "+", "header_size", "+", "length_len", "#helper variable just to make things simpler", "dr_length", "=", "int", ".", "from_bytes", "(", "binary_view", "[", "offset", "+", "header_size", ":", "temp_len", "]", ",", "\"little\"", ",", "signed", "=", "False", ")", "if", "length_offset", ":", "#the offset is relative to the previous data run", "dr_offset", "=", "int", ".", "from_bytes", "(", "binary_view", "[", "temp_len", ":", "temp_len", "+", "length_offset", "]", ",", "\"little\"", ",", "signed", "=", "True", ")", "+", "previous_dr_offset", "previous_dr_offset", "=", "dr_offset", "else", ":", "#if it is sparse, requires a a different approach", "dr_offset", "=", "None", "offset", "+=", "header_size", "+", "length_len", "+", "length_offset", "nw_obj", ".", "data_runs", ".", "append", "(", "(", "dr_length", ",", "dr_offset", ")", ")", "#nw_obj.data_runs.append(DataRun(dr_length, dr_offset))", "_MOD_LOGGER", ".", "debug", "(", "\"DataRuns object created successfully\"", ")", "return", "nw_obj" ]

[ "Creates", "a", "new", "object", "DataRuns", "from", "a", "binary", "stream", ".", "The", "binary", "stream", "can", "be", "represented", "by", "a", "byte", "string", "bytearray", "or", "a", "memoryview", "of", "the", "bytearray", "." ]

[ "def", "create_from_binary", "(", "cls", ",", "binary_view", ")", ":", "attr_type", ",", "attr_len", ",", "non_resident", ",", "name_len", ",", "name_offset", ",", "flags", ",", "attr_id", ",", "content_len", ",", "content_offset", ",", "indexed_flag", "=", "cls", ".", "_REPR", ".", "unpack", "(", "binary_view", "[", ":", "cls", ".", "_REPR", ".", "size", "]", ")", "if", "name_len", ":", "name", "=", "binary_view", "[", "name_offset", ":", "name_offset", "+", "(", "2", "*", "name_len", ")", "]", ".", "tobytes", "(", ")", ".", "decode", "(", "\"utf_16_le\"", ")", "else", ":", "name", "=", "None", "nw_obj", "=", "cls", "(", "(", "AttrTypes", "(", "attr_type", ")", ",", "attr_len", ",", "bool", "(", "non_resident", ")", ",", "AttrFlags", "(", "flags", ")", ",", "attr_id", ",", "name", ")", ",", "(", "content_len", ",", "content_offset", ",", "indexed_flag", ")", ")", "return", "nw_obj" ]

[ "Creates", "a", "new", "object", "AttributeHeader", "from", "a", "binary", "stream", ".", "The", "binary", "stream", "can", "be", "represented", "by", "a", "byte", "string", "bytearray", "or", "a", "memoryview", "of", "the", "bytearray", "." ]

[ "def", "create_from_binary", "(", "cls", ",", "load_dataruns", ",", "binary_view", ")", ":", "attr_type", ",", "attr_len", ",", "non_resident", ",", "name_len", ",", "name_offset", ",", "flags", ",", "attr_id", ",", "start_vcn", ",", "end_vcn", ",", "rl_offset", ",", "compress_usize", ",", "alloc_sstream", ",", "curr_sstream", ",", "init_sstream", "=", "cls", ".", "_REPR", ".", "unpack", "(", "binary_view", "[", ":", "cls", ".", "_REPR", ".", "size", "]", ")", "if", "name_len", ":", "name", "=", "binary_view", "[", "name_offset", ":", "name_offset", "+", "(", "2", "*", "name_len", ")", "]", ".", "tobytes", "(", ")", ".", "decode", "(", "\"utf_16_le\"", ")", "else", ":", "name", "=", "None", "#content = cls._REPR.unpack(binary_view[non_resident_offset:non_resident_offset+cls._REPR.size])", "nw_obj", "=", "cls", "(", "(", "AttrTypes", "(", "attr_type", ")", ",", "attr_len", ",", "bool", "(", "non_resident", ")", ",", "AttrFlags", "(", "flags", ")", ",", "attr_id", ",", "name", ")", ",", "(", "start_vcn", ",", "end_vcn", ",", "rl_offset", ",", "compress_usize", ",", "alloc_sstream", ",", "curr_sstream", ",", "init_sstream", ")", ")", "if", "load_dataruns", ":", "nw_obj", ".", "data_runs", "=", "DataRuns", ".", "create_from_binary", "(", "binary_view", "[", "nw_obj", ".", "rl_offset", ":", "]", ")", "_MOD_LOGGER", ".", "debug", "(", "\"NonResidentAttrHeader object created successfully\"", ")", "return", "nw_obj" ]

[ "Creates", "a", "new", "object", "NonResidentAttrHeader", "from", "a", "binary", "stream", ".", "The", "binary", "stream", "can", "be", "represented", "by", "a", "byte", "string", "bytearray", "or", "a", "memoryview", "of", "the", "bytearray", "." ]

[ "def", "write_slide_list", "(", "self", ",", "logname", ",", "slides", ")", ":", "# Write slides.txt with list of slides", "with", "open", "(", "'%s/%s'", "%", "(", "self", ".", "cache", ",", "logname", ")", ",", "'w'", ")", "as", "logfile", ":", "for", "slide", "in", "slides", ":", "heading", "=", "slide", "[", "'heading'", "]", "[", "'text'", "]", "filename", "=", "self", ".", "get_image_name", "(", "heading", ")", "print", "(", "'%s,%d'", "%", "(", "filename", ",", "slide", ".", "get", "(", "'time'", ",", "0", ")", ")", ",", "file", "=", "logfile", ")" ]

[ "Write", "list", "of", "slides", "to", "logfile" ]

[ "def", "rotate", "(", "self", ",", "img", ")", ":", "try", ":", "exif", "=", "image2exif", ".", "get_exif", "(", "img", ")", "except", "AttributeError", ":", "# image format doesn't support exif", "return", "img", "orientation", "=", "exif", ".", "get", "(", "'Orientation'", ",", "1", ")", "landscape", "=", "img", ".", "height", "<", "img", ".", "width", "if", "orientation", "==", "6", "and", "landscape", ":", "print", "(", "\"ROTATING\"", ")", "return", "img", ".", "rotate", "(", "-", "90", ")", "return", "img" ]

[ "Rotate", "image", "if", "exif", "says", "it", "needs", "it" ]

[ "def", "draw_image", "(", "self", ",", "image", ",", "item", ",", "source", ")", ":", "top", ",", "left", "=", "item", "[", "'top'", "]", ",", "item", "[", "'left'", "]", "width", ",", "height", "=", "item", "[", "'width'", "]", ",", "item", "[", "'height'", "]", "image_file", "=", "item", "[", "'image'", "]", "img", "=", "Image", ".", "open", "(", "source", ")", "img", "=", "self", ".", "rotate", "(", "img", ")", "iwidth", ",", "iheight", "=", "img", ".", "size", "wratio", "=", "width", "/", "iwidth", "hratio", "=", "height", "/", "iheight", "ratio", "=", "min", "(", "wratio", ",", "hratio", ")", "img", "=", "img", ".", "resize", "(", "(", "int", "(", "iwidth", "*", "ratio", ")", ",", "int", "(", "iheight", "*", "ratio", ")", ")", ",", "Image", ".", "ANTIALIAS", ")", "# get updated image size", "iwidth", ",", "iheight", "=", "img", ".", "size", "# Adjust top, left for actual size of image so centre", "# is in the same place as it would have been", "top", "+=", "(", "height", "-", "iheight", ")", "//", "2", "left", "+=", "(", "width", "-", "iwidth", ")", "//", "2", "# now paste the image", "image", ".", "paste", "(", "img", ",", "(", "left", ",", "top", ")", ")" ]

[ "Add", "an", "image", "to", "the", "image" ]

[ "def", "slugify", "(", "self", ",", "name", ")", ":", "slug", "=", "''", "last", "=", "''", "for", "char", "in", "name", ".", "replace", "(", "'#'", ",", "''", ")", ".", "lower", "(", ")", ".", "strip", "(", ")", ":", "if", "not", "char", ".", "isalnum", "(", ")", ":", "char", "=", "'_'", "if", "last", "==", "'_'", "and", "char", "==", "'_'", ":", "continue", "slug", "+=", "char", "last", "=", "char", "return", "slug" ]

[ "Turn", "name", "into", "a", "slug", "suitable", "for", "an", "image", "file", "name" ]

[ "def", "list_keys", "(", "self", ")", ":", "return", "[", "k", "for", "k", ",", "el", "in", "self", ".", "_keystore", ".", "items", "(", ")", "if", "not", "el", ".", "is_expired", "]" ]

[ "Returns", "list", "of", "the", "available", "keys" ]

[ "def", "set", "(", "self", ",", "key", ",", "value", ",", "expire_in", "=", "None", ")", ":", "if", "key", "not", "in", "self", ".", "_keystore", ":", "self", ".", "_keystore", "[", "key", "]", "=", "InMemoryItemValue", "(", "expire_in", "=", "expire_in", ")", "k", "=", "self", ".", "_keystore", "[", "key", "]", "\"\"\":type k InMemoryItemValue\"\"\"", "k", ".", "update_expire_time", "(", "expire_in", ")", "k", ".", "value", "=", "value" ]

[ "Function", "to", "set", "or", "change", "particular", "property", "in", "the", "storage" ]

[ "def", "get", "(", "self", ",", "key", ")", ":", "if", "key", "not", "in", "self", ".", "_keystore", ":", "return", "None", "rec", "=", "self", ".", "_keystore", "[", "key", "]", "\"\"\":type rec InMemoryItemValue\"\"\"", "if", "rec", ".", "is_expired", ":", "self", ".", "delete", "(", "key", ")", "return", "None", "return", "rec", ".", "value" ]

[ "Retrieves", "previously", "stored", "key", "from", "the", "storage" ]

[ "def", "exists", "(", "self", ",", "key", ")", ":", "if", "key", "in", "self", ".", "_keystore", "and", "not", "self", ".", "_keystore", "[", "key", "]", ".", "is_expired", ":", "return", "True", "elif", "key", "in", "self", ".", "_keystore", "and", "self", ".", "_keystore", "[", "key", "]", ".", "is_expired", ":", "self", ".", "delete", "(", "key", ")", "return", "False", "return", "False" ]

[ "Check", "if", "the", "particular", "key", "exists", "in", "the", "storage" ]

[ "def", "plot_2d_single", "(", "x", ",", "y", ",", "pdffilename", ",", "*", "*", "kwargs", ")", ":", "pdffilepath", "=", "DataSets", ".", "get_pdffilepath", "(", "pdffilename", ")", "plotsingle2d", "=", "PlotSingle2D", "(", "x", ",", "y", ",", "pdffilepath", ",", "*", "*", "kwargs", ")", "return", "plotsingle2d", ".", "plot", "(", ")" ]

[ "Do", "make_2d_single_plot", "and", "pass", "all", "arguments" ]

[ "def", "get_pdffilepath", "(", "pdffilename", ")", ":", "return", "FILEPATHSTR", ".", "format", "(", "root_dir", "=", "ROOT_DIR", ",", "os_sep", "=", "os", ".", "sep", ",", "os_extsep", "=", "os", ".", "extsep", ",", "name", "=", "pdffilename", ",", "folder", "=", "PURPOSE", ".", "get", "(", "\"plots\"", ")", ".", "get", "(", "\"folder\"", ",", "\"plots\"", ")", ",", "ext", "=", "PURPOSE", ".", "get", "(", "\"plots\"", ")", ".", "get", "(", "\"extension\"", ",", "\"pdf\"", ")", ")" ]

[ "Returns", "the", "path", "for", "the", "pdf", "file" ]

[ "def", "make_tex_table", "(", "inputlist", ",", "outputfilename", ",", "fmt", "=", "None", ",", "*", "*", "kwargs", ")", ":", "outputfilepath", "=", "FILEPATHSTR", ".", "format", "(", "root_dir", "=", "ROOT_DIR", ",", "os_sep", "=", "os", ".", "sep", ",", "os_extsep", "=", "os", ".", "extsep", ",", "name", "=", "outputfilename", ",", "folder", "=", "PURPOSE", ".", "get", "(", "\"tables\"", ")", ".", "get", "(", "\"folder\"", ",", "\"tables\"", ")", ",", "ext", "=", "PURPOSE", ".", "get", "(", "\"tables\"", ")", ".", "get", "(", "\"extension\"", ",", "\"tex\"", ")", ")", "table", ".", "make_tex_table", "(", "inputlist", ",", "open", "(", "outputfilepath", ",", "'wb'", ")", ",", "fmt", "=", "fmt", ",", "close", "=", "kwargs", ".", "get", "(", "\"close\"", ",", "True", ")", ",", "*", "*", "kwargs", ")" ]

[ "Do", "make_tex_table", "and", "pass", "all", "arguments" ]

[ "def", "make_compute_file", "(", "self", ")", ":", "string", "=", "\"\"", "try", ":", "vardict_items", "=", "self", ".", "vardict", ".", "iteritems", "(", ")", "except", "AttributeError", ":", "vardict_items", "=", "self", ".", "vardict", ".", "items", "(", ")", "for", "key", ",", "val", "in", "vardict_items", ":", "# get default", "default_format", "=", "get_default_format", "(", "val", ")", "string_format", "=", "\"\\\\newcommand{{\\\\{}}}{{\"", "+", "self", ".", "vardictformat", ".", "get", "(", "key", ",", "default_format", ")", "+", "\"}}\\n\"", "string", "+=", "string_format", ".", "format", "(", "key", ",", "val", ")", ".", "replace", "(", "\"+\"", ",", "\"\"", ")", "# get settings", "compute_file", "=", "open", "(", "\"{root_dir}{os_sep}{name}{os_extsep}{ext}\"", ".", "format", "(", "root_dir", "=", "ROOT_DIR", ",", "os_sep", "=", "os", ".", "sep", ",", "os_extsep", "=", "os", ".", "extsep", ",", "name", "=", "SETTINGS", "[", "\"COMPUTE\"", "]", "[", "\"name\"", "]", ",", "ext", "=", "SETTINGS", "[", "\"COMPUTE\"", "]", "[", "\"extension\"", "]", ")", ",", "\"wb\"", ")", "compute_file", ".", "write", "(", "string", ")", "compute_file", ".", "close", "(", ")" ]

[ "Make", "the", "compute", "file", "from", "the", "self", ".", "vardict", "and", "self", ".", "vardictformat" ]

[ "def", "get_es_mappings", "(", "self", ")", ":", "es_mappings", "=", "json", ".", "loads", "(", "requests", ".", "get", "(", "self", ".", "mapping_url", ")", ".", "text", ")", "es_mappings", "=", "{", "\"_\"", ".", "join", "(", "key", ".", "split", "(", "\"_\"", ")", "[", ":", "-", "1", "]", ")", ":", "value", "[", "'mappings'", "]", "for", "key", ",", "value", "in", "es_mappings", ".", "items", "(", ")", "}", "return", "es_mappings" ]

[ "Returns", "the", "mapping", "defitions", "presetn", "in", "elasticsearh" ]

[ "def", "readable_time_delta", "(", "seconds", ")", ":", "days", "=", "seconds", "//", "86400", "seconds", "-=", "days", "*", "86400", "hours", "=", "seconds", "//", "3600", "seconds", "-=", "hours", "*", "3600", "minutes", "=", "seconds", "//", "60", "m_suffix", "=", "'s'", "if", "minutes", "!=", "1", "else", "''", "h_suffix", "=", "'s'", "if", "hours", "!=", "1", "else", "''", "d_suffix", "=", "'s'", "if", "days", "!=", "1", "else", "''", "retval", "=", "u'{0} minute{1}'", ".", "format", "(", "minutes", ",", "m_suffix", ")", "if", "hours", "!=", "0", ":", "retval", "=", "u'{0} hour{1} and {2}'", ".", "format", "(", "hours", ",", "h_suffix", ",", "retval", ")", "if", "days", "!=", "0", ":", "retval", "=", "u'{0} day{1}, {2}'", ".", "format", "(", "days", ",", "d_suffix", ",", "retval", ")", "return", "retval" ]

[ "Convert", "a", "number", "of", "seconds", "into", "readable", "days", "hours", "and", "minutes" ]

[ "def", "next_occurrence", "(", "reminder", ")", ":", "now", "=", "datetime", ".", "datetime", ".", "utcnow", "(", ")", ".", "replace", "(", "tzinfo", "=", "pytz", ".", "UTC", ")", "now_dow", "=", "now", ".", "weekday", "(", ")", "# Start/end dow starting from tomorrow", "start_dow", "=", "now_dow", "+", "1", "end_dow", "=", "start_dow", "+", "7", "# Modded range from tomorrow until 1 week from now. Normalizes", "# wraparound values that span into next week", "dow_iter", "=", "imap", "(", "lambda", "x", ":", "x", "%", "7", ",", "xrange", "(", "start_dow", ",", "end_dow", ")", ")", "# Filter out any days that aren't in the schedule", "dow_iter", "=", "ifilter", "(", "lambda", "x", ":", "x", "in", "reminder", "[", "'repeat'", "]", ",", "dow_iter", ")", "# Get the first one. That's the next day of week", "try", ":", "next_dow", "=", "next", "(", "dow_iter", ")", "except", "StopIteration", ":", "# How?", "logger", ".", "exception", "(", "\"Somehow, we didn't get a next day of week?\"", ")", "_scheduled", ".", "discard", "(", "reminder", "[", "'_id'", "]", ")", "return", "# Get the real day delta. Take the next day of the week. if that day of", "# the week is before the current day of the week, add a week. Normalize", "# this value by subtracting the starting point. Example:", "# Now = 3, Next = 1, Delta = (1 + 7) - 3 = 5", "day_delta", "=", "next_dow", "if", "next_dow", "<=", "now_dow", ":", "day_delta", "+=", "7", "day_delta", "-=", "now_dow", "# Update the record", "return", "reminder", "[", "'when'", "]", "+", "datetime", ".", "timedelta", "(", "days", "=", "day_delta", ")", ",", "day_delta" ]

[ "Calculate", "the", "next", "occurrence", "of", "a", "repeatable", "reminder" ]

[ "def", "at_reminder", "(", "client", ",", "channel", ",", "nick", ",", "args", ")", ":", "global", "_scheduled", "now", "=", "datetime", ".", "datetime", ".", "utcnow", "(", ")", ".", "replace", "(", "tzinfo", "=", "pytz", ".", "UTC", ")", "# Parse the time it should go off, and the minute offset of the day", "hh", ",", "mm", "=", "map", "(", "int", ",", "args", "[", "0", "]", ".", "split", "(", "':'", ")", ")", "# Strip time from args", "args", "=", "args", "[", "1", ":", "]", "# Default timezone", "timezone", "=", "pytz", ".", "timezone", "(", "getattr", "(", "settings", ",", "'TIMEZONE'", ",", "'US/Eastern'", ")", ")", "try", ":", "# If there was a timezone passed in", "timezone", "=", "pytz", ".", "timezone", "(", "args", "[", "0", "]", ")", "except", "pytz", ".", "UnknownTimeZoneError", ":", "pass", "else", ":", "# If so, remove it from args", "args", "=", "args", "[", "1", ":", "]", "local_now", "=", "now", ".", "astimezone", "(", "timezone", ")", "local_next", "=", "local_now", ".", "replace", "(", "hour", "=", "hh", ",", "minute", "=", "mm", ")", "if", "local_next", "<=", "local_now", ":", "local_next", "+=", "datetime", ".", "timedelta", "(", "days", "=", "1", ")", "reminder", "=", "{", "'when'", ":", "local_next", ".", "astimezone", "(", "pytz", ".", "UTC", ")", ",", "'channel'", ":", "channel", ",", "'message'", ":", "' '", ".", "join", "(", "args", ")", ",", "'creator'", ":", "nick", ",", "}", "# Check for 'repeat' arg", "try", ":", "repeat", "=", "args", "[", "-", "2", "]", "==", "'repeat'", "except", "IndexError", ":", "repeat", "=", "False", "if", "repeat", ":", "# If repeating, strip off the last two for the message", "sched", "=", "args", "[", "-", "1", "]", "reminder", "[", "'message'", "]", "=", "' '", ".", "join", "(", "args", "[", ":", "-", "2", "]", ")", "repeat_days", "=", "sorted", "(", "[", "v", "for", "k", ",", "v", "in", "days_of_week", ".", "iteritems", "(", ")", "if", "k", "in", "sched", "]", ")", "if", "not", "repeat_days", ":", "return", "u\"I didn't understand '{0}'. You must use any of M,Tu,W,Th,F,Sa,Su. Ex: MWF\"", ".", "format", "(", "sched", ")", "reminder", "[", "'repeat'", "]", "=", "repeat_days", "for", "attempt", "in", "xrange", "(", "7", ")", ":", "if", "reminder", "[", "'when'", "]", ".", "weekday", "(", ")", "in", "repeat_days", ":", "break", "reminder", "[", "'when'", "]", "+=", "datetime", ".", "timedelta", "(", "days", "=", "1", ")", "# Handle ability to specify the channel", "if", "reminder", "[", "'message'", "]", ".", "startswith", "(", "'on'", ")", ":", "parts", "=", "reminder", "[", "'message'", "]", ".", "split", "(", "' '", ")", "chan", "=", "parts", "[", "1", "]", "reminder", "[", "'message'", "]", "=", "' '", ".", "join", "(", "parts", "[", "2", ":", "]", ")", "# Make sure channel is formatted correctly", "if", "not", "chan", ".", "startswith", "(", "'#'", ")", ":", "chan", "=", "'#{0}'", ".", "format", "(", "chan", ")", "reminder", "[", "'channel'", "]", "=", "chan", "id", "=", "db", ".", "reminders", ".", "insert", "(", "reminder", ")", "diff", "=", "reminder", "[", "'when'", "]", "-", "now", "delay", "=", "(", "diff", ".", "days", "*", "24", "*", "3600", ")", "+", "diff", ".", "seconds", "_scheduled", ".", "add", "(", "id", ")", "reactor", ".", "callLater", "(", "delay", ",", "_do_reminder", ",", "id", ",", "client", ")", "return", "u'Reminder set for {0} from now'", ".", "format", "(", "readable_time_delta", "(", "delay", ")", ")" ]

[ "Schedule", "a", "reminder", "to", "occur", "at", "a", "specific", "time", ".", "The", "given", "time", "can", "optionally", "be", "specified", "to", "occur", "at", "a", "specific", "timezone", "but", "will", "default", "to", "the", "value", "of", "settings", ".", "TIMEZONE", "if", "none", "is", "specified", ".", "Times", "should", "be", "on", "a", "24", "-", "hour", "clock", "." ]

[ "def", "handle_template", "(", "self", ",", "template", ",", "subdir", ")", ":", "if", "template", "is", "None", ":", "return", "six", ".", "text_type", "(", "os", ".", "path", ".", "join", "(", "yacms", ".", "__path__", "[", "0", "]", ",", "subdir", ")", ")", "return", "super", "(", "Command", ",", "self", ")", ".", "handle_template", "(", "template", ",", "subdir", ")" ]

[ "Use", "yacms", "s", "project", "template", "by", "default", ".", "The", "method", "of", "picking", "the", "default", "directory", "is", "copied", "from", "Django", "s", "TemplateCommand", "." ]

[ "def", "save", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "if", "not", "self", ".", "image", ":", "# Fetch image", "url", "=", "\"http://img.youtube.com/vi/%s/0.jpg\"", "%", "self", ".", "youtube_id", "response", "=", "None", "try", ":", "response", "=", "requests", ".", "get", "(", "url", ")", "except", "requests", ".", "exceptions", ".", "RequestException", ":", "# Nothing we can really do in this case", "pass", "if", "response", "is", "not", "None", ":", "# Jump through filesystem hoop to please photologue", "filename", "=", "self", ".", "youtube_id", "+", "'.jpg'", "filepath", "=", "os", ".", "path", ".", "join", "(", "mkdtemp", "(", ")", ",", "filename", ")", "fp", "=", "open", "(", "filepath", ",", "'wb'", ")", "try", ":", "fp", ".", "write", "(", "response", ".", "content", ")", "finally", ":", "fp", ".", "close", "(", ")", "# Check for a valid image", "image", "=", "None", "try", ":", "image", "=", "Image", ".", "open", "(", "filepath", ")", "except", "IOError", ":", "os", ".", "remove", "(", "filepath", ")", "if", "image", "is", "not", "None", ":", "try", ":", "# Overlay a play button if possible", "video_play_image", "=", "preferences", ".", "GalleryPreferences", ".", "video_play_image", "if", "video_play_image", ":", "overlay", "=", "Image", ".", "open", "(", "video_play_image", ")", "# Downsize image_overlay if it is larger than image", "w1", ",", "h1", "=", "image", ".", "size", "w2", ",", "h2", "=", "overlay", ".", "size", "if", "w2", ">", "w1", "or", "h2", ">", "h1", ":", "ratio1", "=", "w1", "/", "float", "(", "h1", ")", "ratio2", "=", "w2", "/", "float", "(", "h2", ")", "if", "ratio1", ">", "ratio2", ":", "resize_fract", "=", "h1", "/", "float", "(", "h2", ")", "else", ":", "resize_fract", "=", "w1", "/", "float", "(", "w2", ")", "overlay", ".", "resize", "(", "w2", "*", "resize_fract", ",", "h2", "*", "resize_fract", ",", "Image", ".", "ANTIALIAS", ")", "image", ".", "paste", "(", "overlay", ",", "(", "int", "(", "(", "w1", "-", "w2", ")", "/", "2.0", ")", ",", "int", "(", "(", "h1", "-", "h2", ")", "/", "2.0", ")", ")", ",", "mask", "=", "overlay", ")", "image", ".", "save", "(", "filepath", ")", "# Finally set image", "image", "=", "File", "(", "open", "(", "filepath", ",", "'rb'", ")", ")", "image", ".", "name", "=", "filename", "self", ".", "image", "=", "image", "finally", ":", "os", ".", "remove", "(", "filepath", ")", "super", "(", "VideoEmbed", ",", "self", ")", ".", "save", "(", "*", "args", ",", "*", "*", "kwargs", ")" ]

[ "Automatically", "set", "image" ]

[ "def", "name", "(", "self", ")", ":", "return", "\"%s:[%s]\"", "%", "(", "self", ".", "_name", ",", "\", \"", ".", "join", "(", "meta", ".", "name", "for", "meta", "in", "self", ".", "_metas", ")", ")" ]

[ "Compute", "a", "name", "according", "to", "sub", "meta", "results", "names" ]

[ "def", "errors", "(", "self", ")", ":", "errors", "=", "[", "]", "for", "meta", "in", "self", ":", "errors", ".", "extend", "(", "meta", ".", "errors", ")", "return", "errors" ]

[ "get", "all", "the", "errors" ]

[ "def", "defaults", "(", "self", ")", ":", "default", "=", "self", ".", "_defaults", "# if require and no default, the first component as default", "if", "not", "len", "(", "default", ")", "and", "self", ".", "required", "and", "len", "(", "self", ".", "_components", ")", ":", "default", "=", "[", "six", ".", "next", "(", "six", ".", "itervalues", "(", "self", ".", "_components", ")", ")", ".", "name", "]", "return", "default" ]

[ "component", "default", "component" ]

[ "def", "selected", "(", "self", ")", ":", "selected", "=", "self", ".", "_selected", "if", "len", "(", "self", ".", "_selected", ")", "==", "0", "and", "self", ".", "required", ":", "# nothing has been selected yet BUT the component is required", "selected", "=", "self", ".", "defaults", "return", "selected" ]

[ "returns", "the", "list", "of", "selected", "component", "names", "." ]

[ "def", "as_dict", "(", "self", ")", ":", "#TODO/FIXME: add selected information", "if", "self", ".", "hidden", ":", "rdict", "=", "{", "}", "else", ":", "def_selected", "=", "self", ".", "selected", "(", ")", "comps", "=", "[", "{", "'name'", ":", "comp", ".", "name", ",", "'default'", ":", "comp", ".", "name", "in", "self", ".", "defaults", ",", "'options'", ":", "comp", ".", "get_ordered_options", "(", ")", "if", "isinstance", "(", "comp", ",", "Optionable", ")", "else", "None", "}", "for", "comp", "in", "self", "]", "rdict", "=", "{", "'name'", ":", "self", ".", "name", ",", "'required'", ":", "self", ".", "required", ",", "'multiple'", ":", "self", ".", "multiple", ",", "'args'", ":", "self", ".", "in_name", ",", "'returns'", ":", "self", ".", "out_name", ",", "'components'", ":", "comps", "}", "return", "rdict" ]

[ "returns", "a", "dictionary", "representation", "of", "the", "block", "and", "of", "all", "component", "options" ]

[ "def", "reset", "(", "self", ")", ":", "self", ".", "_components", "=", "OrderedDict", "(", ")", "self", ".", "clear_selections", "(", ")", "self", ".", "_logger", ".", "info", "(", "\"<block: %s> reset component list\"", "%", "(", "self", ".", "name", ")", ")" ]

[ "Removes", "all", "the", "components", "of", "the", "block" ]

[ "def", "setup", "(", "self", ",", "in_name", "=", "None", ",", "out_name", "=", "None", ",", "required", "=", "None", ",", "hidden", "=", "None", ",", "multiple", "=", "None", ",", "defaults", "=", "None", ")", ":", "if", "in_name", "is", "not", "None", ":", "self", ".", "in_name", "=", "in_name", "if", "isinstance", "(", "in_name", ",", "list", ")", "else", "[", "in_name", "]", "if", "out_name", "is", "not", "None", ":", "self", ".", "out_name", "=", "out_name", "if", "required", "is", "not", "None", ":", "self", ".", "required", "=", "required", "if", "hidden", "is", "not", "None", ":", "self", ".", "hidden", "=", "hidden", "if", "multiple", "is", "not", "None", ":", "self", ".", "multiple", "=", "multiple", "if", "defaults", "is", "not", "None", ":", "#if default is just a 'str' it is managed in setter", "self", ".", "defaults", "=", "defaults" ]

[ "Set", "the", "options", "of", "the", "block", ".", "Only", "the", "not", "None", "given", "options", "are", "set" ]

[ "def", "validate", "(", "self", ")", ":", "if", "self", ".", "required", "and", "len", "(", "self", ".", "selected", "(", ")", ")", "==", "0", ":", "raise", "ReliureError", "(", "\"No component selected for block '%s'\"", "%", "self", ".", "name", ")" ]

[ "check", "that", "the", "block", "can", "be", "run" ]

[ "def", "requires", "(", "self", ",", "*", "names", ")", ":", "if", "len", "(", "names", ")", "==", "0", ":", "raise", "ValueError", "(", "\"You should give at least one block name\"", ")", "if", "self", ".", "_blocks", "is", "not", "None", "and", "len", "(", "self", ".", "_blocks", ")", ">", "0", ":", "raise", "ReliureError", "(", "\"Method 'requires' should be called only once before adding any composant\"", ")", "for", "name", "in", "names", ":", "if", "name", "in", "self", ".", "_blocks", ":", "raise", "ValueError", "(", "\"Duplicate block name %s\"", "%", "name", ")", "self", ".", "_blocks", "[", "name", "]", "=", "Block", "(", "name", ")", "self", ".", "_logger", ".", "info", "(", "\" ** requires ** %s\"", ",", "names", ")" ]

[ "Declare", "what", "block", "will", "be", "used", "in", "this", "engine", "." ]

[ "def", "needed_inputs", "(", "self", ")", ":", "needed", "=", "set", "(", ")", "available", "=", "set", "(", ")", "# set of available data", "for", "bnum", ",", "block", "in", "enumerate", "(", "self", ")", ":", "if", "not", "block", ".", "selected", "(", ")", ":", "# if the block will not be used", "continue", "if", "block", ".", "in_name", "is", "not", "None", ":", "for", "in_name", "in", "block", ".", "in_name", ":", "if", "not", "in_name", "in", "available", ":", "needed", ".", "add", "(", "in_name", ")", "elif", "bnum", "==", "0", ":", "# if the first block", "needed", ".", "add", "(", "Engine", ".", "DEFAULT_IN_NAME", ")", "# register the output", "available", ".", "add", "(", "block", ".", "out_name", ")", "return", "needed" ]

[ "List", "all", "the", "needed", "inputs", "of", "a", "configured", "engine" ]

[ "def", "as_dict", "(", "self", ")", ":", "drepr", "=", "{", "'blocks'", ":", "[", "block", ".", "as_dict", "(", ")", "for", "block", "in", "self", "if", "block", ".", "hidden", "==", "False", "]", ",", "'args'", ":", "list", "(", "self", ".", "needed_inputs", "(", ")", ")", "}", "return", "drepr" ]

[ "dict", "repr", "of", "the", "components" ]

[ "def", "all", "(", "self", ")", ":", "class_list", "=", "list", "(", "self", ".", "get_class_list", "(", ")", ")", "if", "not", "class_list", ":", "self", ".", "cache", "=", "[", "]", "return", "[", "]", "if", "self", ".", "cache", "is", "not", "None", ":", "return", "self", ".", "cache", "results", "=", "[", "]", "for", "cls_path", "in", "class_list", ":", "module_name", ",", "class_name", "=", "cls_path", ".", "rsplit", "(", "'.'", ",", "1", ")", "try", ":", "module", "=", "__import__", "(", "module_name", ",", "{", "}", ",", "{", "}", ",", "class_name", ")", "cls", "=", "getattr", "(", "module", ",", "class_name", ")", "if", "self", ".", "instances", ":", "results", ".", "append", "(", "cls", "(", ")", ")", "else", ":", "results", ".", "append", "(", "cls", ")", "except", "Exception", ":", "logger", ".", "exception", "(", "'Unable to import {cls}'", ".", "format", "(", "cls", "=", "cls_path", ")", ")", "continue", "self", ".", "cache", "=", "results", "return", "results" ]

[ "Returns", "a", "list", "of", "cached", "instances", "." ]

[ "def", "_download_initial_config", "(", "self", ")", ":", "_initial_config", "=", "self", ".", "_download_running_config", "(", ")", "# this is a bit slow!", "self", ".", "_last_working_config", "=", "_initial_config", "self", ".", "_config_history", ".", "append", "(", "_initial_config", ")", "self", ".", "_config_history", ".", "append", "(", "_initial_config", ")" ]

[ "Loads", "the", "initial", "config", "." ]

[ "def", "_upload_config_content", "(", "self", ",", "configuration", ",", "rollbacked", "=", "False", ")", ":", "try", ":", "for", "configuration_line", "in", "configuration", ".", "splitlines", "(", ")", ":", "self", ".", "_device", ".", "cli", "(", "configuration_line", ")", "self", ".", "_config_changed", "=", "True", "# configuration was changed", "self", ".", "_committed", "=", "False", "# and not committed yet", "except", "(", "pyPluribus", ".", "exceptions", ".", "CommandExecutionError", ",", "pyPluribus", ".", "exceptions", ".", "TimeoutError", ")", "as", "clierr", ":", "if", "not", "rollbacked", ":", "# rollack errors will just trow", "# to avoid loops", "self", ".", "discard", "(", ")", "raise", "pyPluribus", ".", "exceptions", ".", "ConfigLoadError", "(", "\"Unable to upload config on the device: {err}.\\\n Configuration will be discarded.\"", ".", "format", "(", "err", "=", "clierr", ".", "message", ")", ")", "return", "True" ]

[ "Will", "try", "to", "upload", "a", "specific", "configuration", "on", "the", "device", "." ]

[ "def", "load_candidate", "(", "self", ",", "filename", "=", "None", ",", "config", "=", "None", ")", ":", "configuration", "=", "''", "if", "filename", "is", "None", ":", "configuration", "=", "config", "else", ":", "with", "open", "(", "filename", ")", "as", "config_file", ":", "configuration", "=", "config_file", ".", "read", "(", ")", "return", "self", ".", "_upload_config_content", "(", "configuration", ")" ]

[ "Loads", "a", "candidate", "configuration", "on", "the", "device", ".", "In", "case", "the", "load", "fails", "at", "any", "point", "will", "automatically", "rollback", "to", "last", "working", "configuration", "." ]

[ "def", "discard", "(", "self", ")", ":", "# pylint: disable=no-self-use", "try", ":", "self", ".", "rollback", "(", "0", ")", "except", "pyPluribus", ".", "exceptions", ".", "RollbackError", "as", "rbackerr", ":", "raise", "pyPluribus", ".", "exceptions", ".", "ConfigurationDiscardError", "(", "\"Cannot discard configuration: {err}.\\\n \"", ".", "format", "(", "err", "=", "rbackerr", ")", ")" ]

[ "Clears", "uncommited", "changes", "." ]

[ "def", "commit", "(", "self", ")", ":", "# pylint: disable=no-self-use", "if", "self", ".", "_config_changed", ":", "self", ".", "_last_working_config", "=", "self", ".", "_download_running_config", "(", ")", "self", ".", "_config_history", ".", "append", "(", "self", ".", "_last_working_config", ")", "self", ".", "_committed", "=", "True", "# comfiguration was committed", "self", ".", "_config_changed", "=", "False", "# no changes since last commit :)", "return", "True", "# this will be always true", "# since the changes are automatically applied", "self", ".", "_committed", "=", "False", "# make sure the _committed attribute is not True by any chance", "return", "False" ]

[ "Will", "commit", "the", "changes", "on", "the", "device" ]

[ "def", "compare", "(", "self", ")", ":", "# pylint: disable=no-self-use", "# becuase we emulate the configuration history", "# the difference is between the last committed config and the running-config", "running_config", "=", "self", ".", "_download_running_config", "(", ")", "running_config_lines", "=", "running_config", ".", "splitlines", "(", ")", "last_committed_config", "=", "self", ".", "_last_working_config", "last_committed_config_lines", "=", "last_committed_config", ".", "splitlines", "(", ")", "difference", "=", "difflib", ".", "unified_diff", "(", "running_config_lines", ",", "last_committed_config_lines", ",", "n", "=", "0", ")", "return", "'\\n'", ".", "join", "(", "difference", ")" ]

[ "Computes", "the", "difference", "between", "the", "candidate", "config", "and", "the", "running", "config", "." ]

[ "def", "rollback", "(", "self", ",", "number", "=", "0", ")", ":", "if", "number", "<", "0", ":", "raise", "pyPluribus", ".", "exceptions", ".", "RollbackError", "(", "\"Please provide a positive number to rollback to!\"", ")", "available_configs", "=", "len", "(", "self", ".", "_config_history", ")", "max_rollbacks", "=", "available_configs", "-", "2", "if", "max_rollbacks", "<", "0", ":", "raise", "pyPluribus", ".", "exceptions", ".", "RollbackError", "(", "\"Cannot rollback: \\\n not enough configration history available!\"", ")", "if", "max_rollbacks", ">", "0", "and", "number", ">", "max_rollbacks", ":", "raise", "pyPluribus", ".", "exceptions", ".", "RollbackError", "(", "\"Cannot rollback more than {cfgs} configurations!\\\n \"", ".", "format", "(", "cfgs", "=", "max_rollbacks", ")", ")", "config_location", "=", "1", "# will load the initial config worst case (user never commited, but wants to discard)", "if", "max_rollbacks", ">", "0", ":", "# in case of previous commit(s) will be able to load a specific configuration", "config_location", "=", "available_configs", "-", "number", "-", "1", "# stored in location len() - rollabck_nb - 1", "# covers also the case of discard uncommitted changes (rollback 0)", "desired_config", "=", "self", ".", "_config_history", "[", "config_location", "]", "try", ":", "self", ".", "_upload_config_content", "(", "desired_config", ",", "rollbacked", "=", "True", ")", "except", "pyPluribus", ".", "exceptions", ".", "ConfigLoadError", "as", "loaderr", ":", "raise", "pyPluribus", ".", "exceptions", ".", "RollbackError", "(", "\"Cannot rollback: {err}\"", ".", "format", "(", "err", "=", "loaderr", ")", ")", "del", "self", ".", "_config_history", "[", "(", "config_location", "+", "1", ")", ":", "]", "# delete all newer configurations than the config rolled back", "self", ".", "_last_working_config", "=", "desired_config", "self", ".", "_committed", "=", "True", "self", ".", "_config_changed", "=", "False", "return", "True" ]

[ "Will", "rollback", "the", "configuration", "to", "a", "previous", "state", ".", "Can", "be", "called", "also", "when" ]

[ "def", "draw", "(", "self", ",", "label", ",", "expire", ")", ":", "# get next number", "with", "self", ".", "client", ".", "pipeline", "(", ")", "as", "pipe", ":", "pipe", ".", "msetnx", "(", "{", "self", ".", "keys", ".", "dispenser", ":", "0", ",", "self", ".", "keys", ".", "indicator", ":", "1", "}", ")", "pipe", ".", "incr", "(", "self", ".", "keys", ".", "dispenser", ")", "number", "=", "pipe", ".", "execute", "(", ")", "[", "-", "1", "]", "# publish for humans", "self", ".", "message", "(", "'{} assigned to \"{}\"'", ".", "format", "(", "number", ",", "label", ")", ")", "# launch keeper", "kwargs", "=", "{", "'client'", ":", "self", ".", "client", ",", "'key'", ":", "self", ".", "keys", ".", "key", "(", "number", ")", "}", "keeper", "=", "Keeper", "(", "label", "=", "label", ",", "expire", "=", "expire", ",", "*", "*", "kwargs", ")", "try", ":", "yield", "number", "except", ":", "self", ".", "message", "(", "'{} crashed!'", ".", "format", "(", "number", ")", ")", "raise", "finally", ":", "keeper", ".", "close", "(", ")", "self", ".", "message", "(", "'{} completed by \"{}\"'", ".", "format", "(", "number", ",", "label", ")", ")", "number", "+=", "1", "self", ".", "client", ".", "set", "(", "self", ".", "keys", ".", "indicator", ",", "number", ")", "self", ".", "announce", "(", "number", ")" ]

[ "Return", "a", "Serial", "number", "for", "this", "resource", "queue", "after", "bootstrapping", "." ]

[ "def", "wait", "(", "self", ",", "number", ",", "patience", ")", ":", "# inspect indicator for our number", "waiting", "=", "int", "(", "self", ".", "client", ".", "get", "(", "self", ".", "keys", ".", "indicator", ")", ")", "!=", "number", "# wait until someone announces our number", "while", "waiting", ":", "message", "=", "self", ".", "subscription", ".", "listen", "(", "patience", ")", "if", "message", "is", "None", ":", "# timeout beyond patience, bump and try again", "self", ".", "message", "(", "'{} bumps'", ".", "format", "(", "number", ")", ")", "self", ".", "bump", "(", ")", "continue", "if", "message", "[", "'type'", "]", "!=", "'message'", ":", "continue", "# a subscribe message", "waiting", "=", "self", ".", "keys", ".", "number", "(", "message", "[", "'data'", "]", ")", "!=", "number", "# our turn now", "self", ".", "message", "(", "'{} started'", ".", "format", "(", "number", ")", ")" ]

[ "Waits", "and", "resets", "if", "necessary", "." ]

[ "def", "message", "(", "self", ",", "text", ")", ":", "self", ".", "client", ".", "publish", "(", "self", ".", "keys", ".", "external", ",", "'{}: {}'", ".", "format", "(", "self", ".", "resource", ",", "text", ")", ")" ]

[ "Public", "message", "." ]

[ "def", "announce", "(", "self", ",", "number", ")", ":", "self", ".", "client", ".", "publish", "(", "self", ".", "keys", ".", "internal", ",", "self", ".", "keys", ".", "key", "(", "number", ")", ")", "self", ".", "message", "(", "'{} granted'", ".", "format", "(", "number", ")", ")" ]

[ "Announce", "an", "indicator", "change", "on", "both", "channels", "." ]

[ "def", "bump", "(", "self", ")", ":", "# read client", "values", "=", "self", ".", "client", ".", "mget", "(", "self", ".", "keys", ".", "indicator", ",", "self", ".", "keys", ".", "dispenser", ")", "indicator", ",", "dispenser", "=", "map", "(", "int", ",", "values", ")", "# determine active users", "numbers", "=", "range", "(", "indicator", ",", "dispenser", "+", "1", ")", "keys", "=", "[", "self", ".", "keys", ".", "key", "(", "n", ")", "for", "n", "in", "numbers", "]", "pairs", "=", "zip", "(", "keys", ",", "self", ".", "client", ".", "mget", "(", "*", "keys", ")", ")", "try", ":", "# determine number of first active user", "number", "=", "next", "(", "self", ".", "keys", ".", "number", "(", "key", ")", "for", "key", ",", "value", "in", "pairs", "if", "value", "is", "not", "None", ")", "except", ":", "# set number to next result of incr on dispenser", "number", "=", "dispenser", "+", "1", "# set indicator to it if necessary", "if", "number", "!=", "indicator", ":", "self", ".", "client", ".", "set", "(", "self", ".", "keys", ".", "indicator", ",", "number", ")", "# announce and return it anyway", "self", ".", "announce", "(", "number", ")", "return", "number" ]

[ "Fix", "indicator", "in", "case", "of", "unnanounced", "departments", "." ]

[ "def", "lock", "(", "self", ",", "resource", ",", "label", "=", "''", ",", "expire", "=", "60", ",", "patience", "=", "60", ")", ":", "queue", "=", "Queue", "(", "client", "=", "self", ".", "client", ",", "resource", "=", "resource", ")", "with", "queue", ".", "draw", "(", "label", "=", "label", ",", "expire", "=", "expire", ")", "as", "number", ":", "queue", ".", "wait", "(", "number", "=", "number", ",", "patience", "=", "patience", ")", "yield", "queue", ".", "close", "(", ")" ]

[ "Lock", "a", "resource", "." ]

[ "def", "list_refs", "(", "profile", ",", "ref_type", "=", "None", ")", ":", "resource", "=", "\"/refs\"", "if", "ref_type", ":", "resource", "+=", "\"/\"", "+", "ref_type", "data", "=", "api", ".", "get_request", "(", "profile", ",", "resource", ")", "result", "=", "[", "prepare", "(", "x", ")", "for", "x", "in", "data", "]", "return", "result" ]

[ "List", "all", "refs", "." ]

[ "def", "get_ref", "(", "profile", ",", "ref", ")", ":", "resource", "=", "\"/refs/\"", "+", "ref", "data", "=", "api", ".", "get_request", "(", "profile", ",", "resource", ")", "return", "prepare", "(", "data", ")" ]

[ "Fetch", "a", "ref", "." ]

[ "def", "create_ref", "(", "profile", ",", "ref", ",", "sha", ")", ":", "resource", "=", "\"/refs\"", "payload", "=", "{", "\"ref\"", ":", "\"refs/\"", "+", "ref", ",", "\"sha\"", ":", "sha", "}", "data", "=", "api", ".", "post_request", "(", "profile", ",", "resource", ",", "payload", ")", "return", "prepare", "(", "data", ")" ]

[ "Create", "a", "ref", "." ]

[ "def", "update_ref", "(", "profile", ",", "ref", ",", "sha", ")", ":", "resource", "=", "\"/refs/\"", "+", "ref", "payload", "=", "{", "\"sha\"", ":", "sha", "}", "data", "=", "api", ".", "patch_request", "(", "profile", ",", "resource", ",", "payload", ")", "return", "prepare", "(", "data", ")" ]

[ "Point", "a", "ref", "to", "a", "new", "SHA", "." ]

[ "def", "latency", "(", "self", ")", ":", "with", "self", ".", "lock", ":", "self", ".", "send", "(", "'PING %s'", "%", "self", ".", "server", ")", "ctime", "=", "self", ".", "_m_time", ".", "time", "(", ")", "msg", "=", "self", ".", "_recv", "(", "expected_replies", "=", "(", "'PONG'", ",", ")", ")", "if", "msg", "[", "0", "]", "==", "'PONG'", ":", "latency", "=", "self", ".", "_m_time", ".", "time", "(", ")", "-", "ctime", "return", "latency" ]

[ "Checks", "the", "connection", "latency", "." ]

[ "def", "get_section_relations", "(", "Section", ")", ":", "all_rels", "=", "(", "Section", ".", "_meta", ".", "get_all_related_objects", "(", ")", "+", "Section", ".", "_meta", ".", "get_all_related_many_to_many_objects", "(", ")", ")", "return", "filter_item_rels", "(", "all_rels", ")" ]

[ "Find", "every", "relationship", "between", "section", "and", "the", "item", "model", "." ]

[ "def", "authorize_url", "(", "self", ")", ":", "url", ",", "self", ".", "state", "=", "self", ".", "oauth", ".", "authorization_url", "(", "'%sauthorize'", "%", "OAUTH_URL", ")", "return", "url" ]

[ "Build", "the", "authorization", "url", "and", "save", "the", "state", ".", "Return", "the", "authorization", "url" ]

[ "def", "fetch_token", "(", "self", ",", "code", ",", "state", ")", ":", "if", "self", ".", "state", "!=", "state", ":", "raise", "MismatchingStateError", "(", ")", "self", ".", "token", "=", "self", ".", "oauth", ".", "fetch_token", "(", "'%saccess_token/'", "%", "OAUTH_URL", ",", "code", "=", "code", ",", "client_secret", "=", "self", ".", "client_secret", ")", "return", "self", ".", "token", "[", "'access_token'", "]" ]

[ "Fetch", "the", "token", "using", "the", "verification", "code", ".", "Also", "make", "sure", "the", "state", "received", "in", "the", "response", "matches", "the", "one", "in", "the", "request", ".", "Returns", "the", "access_token", "." ]

[ "def", "refresh_token", "(", "self", ",", "refresh_token", ")", ":", "response", "=", "requests", ".", "post", "(", "'%saccess_token'", "%", "OAUTH_URL", ",", "{", "'refresh_token'", ":", "refresh_token", ",", "'grant_type'", ":", "'refresh_token'", ",", "'client_id'", ":", "self", ".", "client_id", ",", "'client_secret'", ":", "self", ".", "client_secret", "}", ")", "resp", "=", "json", ".", "loads", "(", "response", ".", "content", ")", "if", "'access_token'", "in", "resp", ":", "self", ".", "token", "=", "resp", "[", "'access_token'", "]", "return", "resp" ]

[ "Get", "a", "new", "token", "using", "the", "provided", "refresh", "token", ".", "Returns", "the", "new", "access_token", "." ]

[ "def", "browser_authorize", "(", "self", ")", ":", "url", "=", "self", ".", "authorize_url", "(", ")", "# Open the web browser in a new thread for command-line browser support", "threading", ".", "Timer", "(", "1", ",", "webbrowser", ".", "open", ",", "args", "=", "(", "url", ",", ")", ")", ".", "start", "(", ")", "server_config", "=", "{", "'server.socket_host'", ":", "'0.0.0.0'", ",", "'server.socket_port'", ":", "443", ",", "'server.ssl_module'", ":", "'pyopenssl'", ",", "'server.ssl_certificate'", ":", "'tests/files/certificate.cert'", ",", "'server.ssl_private_key'", ":", "'tests/files/key.key'", ",", "}", "cherrypy", ".", "config", ".", "update", "(", "server_config", ")", "cherrypy", ".", "quickstart", "(", "self", ")" ]

[ "Open", "a", "browser", "to", "the", "authorization", "url", "and", "spool", "up", "a", "CherryPy", "server", "to", "accept", "the", "response" ]

[ "def", "index", "(", "self", ",", "state", ",", "code", "=", "None", ",", "error", "=", "None", ")", ":", "error", "=", "None", "if", "code", ":", "try", ":", "auth_token", "=", "self", ".", "fetch_token", "(", "code", ",", "state", ")", "except", "MissingTokenError", ":", "error", "=", "self", ".", "_fmt_failure", "(", "'Missing access token parameter.</br>Please check that '", "'you are using the correct client_secret'", ")", "except", "MismatchingStateError", ":", "error", "=", "self", ".", "_fmt_failure", "(", "'CSRF Warning! Mismatching state'", ")", "else", ":", "error", "=", "self", ".", "_fmt_failure", "(", "'Unknown error while authenticating'", ")", "# Use a thread to shutdown cherrypy so we can return HTML first", "self", ".", "_shutdown_cherrypy", "(", ")", "return", "error", "if", "error", "else", "self", ".", "success_html", "%", "(", "auth_token", ")" ]

[ "Receive", "a", "Exist", "response", "containing", "a", "verification", "code", ".", "Use", "the", "code", "to", "fetch", "the", "access_token", "." ]

[ "def", "_shutdown_cherrypy", "(", "self", ")", ":", "if", "cherrypy", ".", "engine", ".", "state", "==", "cherrypy", ".", "engine", ".", "states", ".", "STARTED", ":", "threading", ".", "Timer", "(", "1", ",", "cherrypy", ".", "engine", ".", "exit", ")", ".", "start", "(", ")" ]

[ "Shutdown", "cherrypy", "in", "one", "second", "if", "it", "s", "running" ]

[ "def", "roundup", "(", "x", ",", "order", ")", ":", "return", "x", "if", "x", "%", "10", "**", "order", "==", "0", "else", "x", "+", "10", "**", "order", "-", "x", "%", "10", "**", "order" ]

[ "Round", "a", "number", "to", "the", "passed", "order" ]

[ "def", "hourminsec", "(", "n_seconds", ")", ":", "hours", ",", "remainder", "=", "divmod", "(", "n_seconds", ",", "3600", ")", "minutes", ",", "seconds", "=", "divmod", "(", "remainder", ",", "60", ")", "return", "abs", "(", "hours", ")", ",", "abs", "(", "minutes", ")", ",", "abs", "(", "seconds", ")" ]

[ "Generate", "a", "string", "of", "hours", "and", "minutes", "from", "total", "number", "of", "seconds" ]

[ "def", "add_alpha_labels", "(", "axes", ",", "xpos", "=", "0.03", ",", "ypos", "=", "0.95", ",", "suffix", "=", "''", ",", "color", "=", "None", ",", "fontsize", "=", "14", ",", "fontweight", "=", "'normal'", ",", "boxstyle", "=", "'square'", ",", "facecolor", "=", "'white'", ",", "edgecolor", "=", "'white'", ",", "alpha", "=", "1.0", ")", ":", "import", "seaborn", "import", "string", "import", "numpy", "if", "not", "numpy", ".", "iterable", "(", "xpos", ")", ":", "xpos", "=", "[", "xpos", ",", "]", "*", "len", "(", "axes", ")", "ypos", "=", "[", "ypos", ",", "]", "*", "len", "(", "axes", ")", "if", "(", "len", "(", "xpos", ")", ">", "1", ")", "or", "(", "len", "(", "ypos", ")", ">", "1", ")", ":", "try", ":", "assert", "(", "len", "(", "axes", ")", "==", "len", "(", "xpos", ")", ")", "except", "AssertionError", "as", "e", ":", "e", ".", "args", "+=", "'xpos iterable must be same length as axes'", "raise", "try", ":", "assert", "(", "len", "(", "axes", ")", "==", "len", "(", "ypos", ")", ")", "except", "AssertionError", "as", "e", ":", "e", ".", "args", "+=", "'ypos iterable must be same length as axes'", "raise", "else", ":", "xpos", "=", "[", "xpos", ",", "]", "ypos", "=", "[", "ypos", ",", "]", "colors", "=", "seaborn", ".", "color_palette", "(", ")", "abc", "=", "string", ".", "ascii_uppercase", "for", "i", ",", "(", "label", ",", "ax", ")", "in", "enumerate", "(", "zip", "(", "abc", "[", ":", "len", "(", "axes", ")", "]", ",", "axes", ")", ")", ":", "if", "color", "is", "None", ":", "color", "=", "colors", "[", "i", "]", "kwargs", "=", "dict", "(", "color", "=", "color", ",", "fontweight", "=", "fontweight", ",", ")", "bbox", "=", "dict", "(", "boxstyle", "=", "boxstyle", ",", "facecolor", "=", "facecolor", ",", "edgecolor", "=", "edgecolor", ",", "alpha", "=", "alpha", ")", "ax", ".", "text", "(", "xpos", "[", "i", "]", ",", "ypos", "[", "i", "]", ",", "'{}{}'", ".", "format", "(", "label", ",", "suffix", ")", ",", "transform", "=", "ax", ".", "transAxes", ",", "fontsize", "=", "fontsize", ",", "verticalalignment", "=", "'top'", ",", "bbox", "=", "bbox", ",", "*", "*", "kwargs", ")", "return", "axes" ]

[ "Add", "sequential", "alphbet", "labels", "to", "subplot", "axes" ]

[ "def", "merge_limits", "(", "axes", ",", "xlim", "=", "True", ",", "ylim", "=", "True", ")", ":", "# Compile lists of all x/y limits", "xlims", "=", "list", "(", ")", "ylims", "=", "list", "(", ")", "for", "ax", "in", "axes", ":", "[", "xlims", ".", "append", "(", "lim", ")", "for", "lim", "in", "ax", ".", "get_xlim", "(", ")", "]", "[", "ylims", ".", "append", "(", "lim", ")", "for", "lim", "in", "ax", ".", "get_ylim", "(", ")", "]", "# Iterate over axes objects and set limits", "for", "ax", "in", "axes", ":", "if", "xlim", ":", "ax", ".", "set_xlim", "(", "min", "(", "xlims", ")", ",", "max", "(", "xlims", ")", ")", "if", "ylim", ":", "ax", ".", "set_ylim", "(", "min", "(", "ylims", ")", ",", "max", "(", "ylims", ")", ")", "return", "None" ]

[ "Set", "maximum", "and", "minimum", "limits", "from", "list", "of", "axis", "objects", "to", "each", "axis" ]

[ "def", "plot_noncontiguous", "(", "ax", ",", "data", ",", "ind", ",", "color", "=", "'black'", ",", "label", "=", "''", ",", "offset", "=", "0", ",", "linewidth", "=", "0.5", ",", "linestyle", "=", "'-'", ")", ":", "def", "slice_with_nans", "(", "ind", ",", "data", ",", "offset", ")", ":", "'''Insert nans in indices and data where indices non-contiguous'''", "import", "copy", "import", "numpy", "ind_nan", "=", "numpy", ".", "zeros", "(", "len", "(", "data", ")", ")", "ind_nan", "[", ":", "]", "=", "numpy", ".", "nan", "# prevent ind from overwrite with deepcopy", "ind_nan", "[", "ind", "-", "offset", "]", "=", "copy", ".", "deepcopy", "(", "ind", ")", "#ind_nan = ind_nan[ind[0]-offset:ind[-1]-offset]", "# prevent data from overwrite with deepcopy", "data_nan", "=", "copy", ".", "deepcopy", "(", "data", ")", "data_nan", "[", "numpy", ".", "isnan", "(", "ind_nan", ")", "]", "=", "numpy", ".", "nan", "return", "ind_nan", ",", "data_nan", "x", ",", "y", "=", "slice_with_nans", "(", "ind", ",", "data", ",", "offset", ")", "ax", ".", "plot", "(", "x", ",", "y", ",", "color", "=", "color", ",", "linewidth", "=", "linewidth", ",", "linestyle", "=", "linestyle", ",", "label", "=", "label", ")", "return", "ax" ]

[ "Plot", "non", "-", "contiguous", "slice", "of", "data" ]

[ "def", "plot_shade_mask", "(", "ax", ",", "ind", ",", "mask", ",", "facecolor", "=", "'gray'", ",", "alpha", "=", "0.5", ")", ":", "ymin", ",", "ymax", "=", "ax", ".", "get_ylim", "(", ")", "ax", ".", "fill_between", "(", "ind", ",", "ymin", ",", "ymax", ",", "where", "=", "mask", ",", "facecolor", "=", "facecolor", ",", "alpha", "=", "alpha", ")", "return", "ax" ]

[ "Shade", "across", "x", "values", "where", "boolean", "mask", "is", "True" ]

[ "def", "fields", "(", "self", ",", "new_fieldnames", ")", ":", "if", "len", "(", "new_fieldnames", ")", "!=", "len", "(", "self", ".", "fields", ")", ":", "raise", "Exception", "(", "\"Cannot replace fieldnames (len: %s) with list of \"", "\"incorrect length (len: %s)\"", "%", "(", "len", "(", "new_fieldnames", ")", ",", "len", "(", "self", ".", "fields", ")", ")", ")", "for", "old_name", ",", "new_name", "in", "izip", "(", "self", ".", "fields", ",", "new_fieldnames", ")", ":", "# use pop instead of `del` in case old_name == new_name", "self", ".", "__data", "[", "new_name", "]", "=", "self", ".", "__data", ".", "pop", "(", "old_name", ")" ]

[ "Overwrite", "all", "field", "names", "with", "new", "field", "names", ".", "Mass", "renaming", "." ]

[ "def", "fromcsvstring", "(", "cls", ",", "csvstring", ",", "delimiter", "=", "\",\"", ",", "quotechar", "=", "\"\\\"\"", ")", ":", "if", "not", "isinstance", "(", "csvstring", ",", "basestring", ")", ":", "raise", "Exception", "(", "\"If trying to construct a DataTable with \"", "\"a list of lists, just use the main \"", "\"constructor. Make sure to include a header row\"", ")", "stringio", "=", "StringIO", "(", "csvstring", ".", "encode", "(", "'utf-8'", ")", ")", "csv_data", "=", "csv", ".", "reader", "(", "(", "line", "for", "line", "in", "stringio", ")", ",", "delimiter", "=", "delimiter", ",", "dialect", "=", "csv", ".", "excel", ",", "quotechar", "=", "quotechar", ",", "quoting", "=", "csv", ".", "QUOTE_NONE", ")", "new_datatable", "=", "cls", "(", "(", "s", ".", "decode", "(", "'utf-8'", ")", "for", "s", "in", "row", ")", "for", "row", "in", "csv_data", ")", "for", "field", "in", "new_datatable", ".", "fields", ":", "new_datatable", "[", "field", "]", "=", "parse_column", "(", "new_datatable", "[", "field", "]", ")", "return", "new_datatable" ]

[ "Takes", "one", "string", "that", "represents", "the", "entire", "contents", "of", "the", "CSV", "file", "or", "similar", "delimited", "file", "." ]

[ "def", "fromexcel", "(", "cls", ",", "path", ",", "sheet_name_or_num", "=", "0", ",", "headers", "=", "None", ")", ":", "reader", "=", "ExcelRW", ".", "UnicodeDictReader", "(", "path", ",", "sheet_name_or_num", ")", "return", "cls", "(", "reader", ",", "headers", "=", "headers", ")" ]

[ "Constructs", "a", "new", "DataTable", "from", "an", "Excel", "file", "." ]

[ "def", "__print_table", "(", "self", ",", "row_delim", ",", "header_delim", "=", "None", ",", "header_pad", "=", "u\"\"", ",", "pad", "=", "u\"\"", ")", ":", "if", "header_delim", "is", "None", ":", "header_delim", "=", "row_delim", "num_cols", "=", "len", "(", "self", ".", "fields", ")", "accumulator", "=", "(", "(", "u\"%s\"", "+", "header_delim", ")", "*", "num_cols", ")", "[", ":", "-", "len", "(", "header_delim", ")", "]", "accumulator", "=", "(", "(", "header_pad", "+", "accumulator", "+", "header_pad", "+", "u\"\\n\"", ")", "%", "tuple", "(", "self", ".", "fields", ")", ")", "for", "datarow", "in", "self", ":", "rowstring", "=", "(", "(", "u\"%s\"", "+", "row_delim", ")", "*", "num_cols", ")", "[", ":", "-", "len", "(", "row_delim", ")", "]", "rowstring", "=", "(", "pad", "+", "rowstring", "+", "pad", "+", "u\"\\n\"", ")", "%", "tuple", "(", "datarow", ")", "accumulator", "+=", "rowstring", "return", "accumulator", "[", ":", "-", "1", "]" ]

[ "row_delim", "default", "delimiter", "inserted", "between", "columns", "of", "every", "row", "in", "the", "table", ".", "header_delim", "delimiter", "inserted", "within", "the", "headers", ".", "by", "default", "takes", "the", "value", "of", "row_delim", "header_pad", "put", "on", "the", "sides", "of", "the", "row", "of", "headers", ".", "pad", "put", "on", "the", "sides", "of", "every", "row", "." ]

[ "def", "apply", "(", "self", ",", "func", ",", "*", "fields", ")", ":", "results", "=", "[", "]", "for", "row", "in", "self", ":", "if", "not", "fields", ":", "results", ".", "append", "(", "func", "(", "row", ")", ")", "else", ":", "if", "any", "(", "field", "not", "in", "self", "for", "field", "in", "fields", ")", ":", "for", "field", "in", "fields", ":", "if", "field", "not", "in", "self", ":", "raise", "Exception", "(", "\"Column `%s` does not exist \"", "\"in DataTable\"", "%", "field", ")", "results", ".", "append", "(", "func", "(", "*", "[", "row", "[", "field", "]", "for", "field", "in", "fields", "]", ")", ")", "return", "results" ]

[ "Applies", "the", "function", "func", "to", "every", "row", "in", "the", "DataTable", "." ]

[ "def", "col", "(", "self", ",", "col_name_or_num", ")", ":", "if", "isinstance", "(", "col_name_or_num", ",", "basestring", ")", ":", "return", "self", "[", "col_name_or_num", "]", "elif", "isinstance", "(", "col_name_or_num", ",", "(", "int", ",", "long", ")", ")", ":", "if", "col_name_or_num", ">", "len", "(", "self", ".", "fields", ")", ":", "raise", "IndexError", "(", "\"Invalid column index `%s` for DataTable\"", "%", "col_name_or_num", ")", "return", "self", ".", "__data", "[", "self", ".", "fields", "[", "col_name_or_num", "]", "]" ]

[ "Returns", "the", "col", "at", "index", "colnum", "or", "name", "colnum", "." ]

[ "def", "distinct", "(", "self", ",", "fieldname", ",", "key", "=", "None", ")", ":", "return", "tuple", "(", "unique_everseen", "(", "self", "[", "fieldname", "]", ",", "key", "=", "key", ")", ")" ]

[ "Returns", "the", "unique", "values", "seen", "at", "fieldname", "." ]

[ "def", "mask", "(", "self", ",", "masklist", ")", ":", "if", "not", "hasattr", "(", "masklist", ",", "'__len__'", ")", ":", "masklist", "=", "tuple", "(", "masklist", ")", "if", "len", "(", "masklist", ")", "!=", "len", "(", "self", ")", ":", "raise", "Exception", "(", "\"Masklist length (%s) must match length \"", "\"of DataTable (%s)\"", "%", "(", "len", "(", "masklist", ")", ",", "len", "(", "self", ")", ")", ")", "new_datatable", "=", "DataTable", "(", ")", "for", "field", "in", "self", ".", "fields", ":", "new_datatable", "[", "field", "]", "=", "list", "(", "compress", "(", "self", "[", "field", "]", ",", "masklist", ")", ")", "return", "new_datatable" ]

[ "masklist", "is", "an", "array", "of", "Bools", "or", "equivalent", "." ]

[ "def", "mutapply", "(", "self", ",", "function", ",", "fieldname", ")", ":", "self", "[", "fieldname", "]", "=", "self", ".", "apply", "(", "function", ",", "fieldname", ")" ]

[ "Applies", "function", "in", "-", "place", "to", "the", "field", "name", "specified", "." ]

[ "def", "rename", "(", "self", ",", "old_fieldname", ",", "new_fieldname", ")", ":", "if", "old_fieldname", "not", "in", "self", ":", "raise", "Exception", "(", "\"DataTable does not have field `%s`\"", "%", "old_fieldname", ")", "if", "not", "isinstance", "(", "new_fieldname", ",", "basestring", ")", ":", "raise", "ValueError", "(", "\"DataTable fields must be strings, not `%s`\"", "%", "type", "(", "new_fieldname", ")", ")", "if", "old_fieldname", "==", "new_fieldname", ":", "return", "new_names", "=", "self", ".", "fields", "location", "=", "new_names", ".", "index", "(", "old_fieldname", ")", "del", "new_names", "[", "location", "]", "new_names", ".", "insert", "(", "location", ",", "new_fieldname", ")", "self", ".", "fields", "=", "new_names" ]

[ "Renames", "a", "specific", "field", "and", "preserves", "the", "underlying", "order", "." ]

[ "def", "reorder", "(", "self", ",", "fields_in_new_order", ")", ":", "if", "not", "len", "(", "fields_in_new_order", ")", "==", "len", "(", "self", ".", "fields", ")", ":", "raise", "Exception", "(", "\"Fields to reorder with are not the same length \"", "\"(%s) as the original fields (%s)\"", "%", "(", "len", "(", "fields_in_new_order", ")", ",", "len", "(", "self", ".", "fields", ")", ")", ")", "if", "not", "set", "(", "fields_in_new_order", ")", "==", "set", "(", "self", ".", "fields", ")", ":", "raise", "Exception", "(", "\"Fields to reorder with should be the same \"", "\"as the original fields\"", ")", "new", "=", "OrderedDict", "(", ")", "for", "field", "in", "fields_in_new_order", ":", "new", "[", "field", "]", "=", "self", ".", "__data", "[", "field", "]", "self", ".", "__data", "=", "new" ]

[ "Pass", "in", "field", "names", "in", "the", "order", "you", "wish", "them", "to", "be", "swapped", "." ]

[ "def", "sample", "(", "self", ",", "num", ")", ":", "if", "num", ">", "len", "(", "self", ")", ":", "return", "self", ".", "copy", "(", ")", "elif", "num", "<", "0", ":", "raise", "IndexError", "(", "\"Cannot sample a negative number of rows \"", "\"from a DataTable\"", ")", "random_row_mask", "=", "(", "[", "True", "]", "*", "num", ")", "+", "(", "[", "False", "]", "*", "(", "len", "(", "self", ")", "-", "num", ")", ")", "shuffle", "(", "random_row_mask", ")", "sampled_table", "=", "self", ".", "mask", "(", "random_row_mask", ")", "random_col_name", "=", "'random_sorting_column'", "while", "random_col_name", "in", "sampled_table", ":", "random_col_name", "=", "'%030x'", "%", "randrange", "(", "16", "**", "30", ")", "sampled_table", "[", "random_col_name", "]", "=", "[", "random", "(", ")", "for", "_", "in", "xrange", "(", "len", "(", "sampled_table", ")", ")", "]", "sampled_table", ".", "sort", "(", "random_col_name", ",", "inplace", "=", "True", ")", "del", "sampled_table", "[", "random_col_name", "]", "return", "sampled_table" ]

[ "Returns", "a", "new", "table", "with", "rows", "randomly", "sampled", "." ]

[ "def", "select", "(", "self", ",", "*", "cols", ")", ":", "return", "DataTable", "(", "[", "cols", "]", "+", "zip", "(", "*", "[", "self", "[", "col", "]", "for", "col", "in", "cols", "]", ")", ")" ]

[ "Returns", "DataTable", "with", "a", "subset", "of", "columns", "in", "this", "table" ]

[ "def", "sort", "(", "self", ",", "fieldname", ",", "key", "=", "lambda", "x", ":", "x", ",", "desc", "=", "False", ",", "inplace", "=", "False", ")", ":", "try", ":", "field_index", "=", "tuple", "(", "self", ".", "fields", ")", ".", "index", "(", "fieldname", ")", "except", "ValueError", ":", "raise", "ValueError", "(", "\"Sorting on a field that doesn't exist: `%s`\"", "%", "fieldname", ")", "data_cols", "=", "izip", "(", "*", "sorted", "(", "izip", "(", "*", "[", "self", ".", "__data", "[", "field", "]", "for", "field", "in", "self", ".", "fields", "]", ")", ",", "key", "=", "lambda", "row", ":", "key", "(", "row", "[", "field_index", "]", ")", ",", "reverse", "=", "desc", ")", ")", "target_table", "=", "self", "if", "inplace", "else", "DataTable", "(", ")", "for", "field", ",", "data_col", "in", "izip", "(", "self", ".", "fields", ",", "data_cols", ")", ":", "target_table", "[", "field", "]", "=", "list", "(", "data_col", ")", "# Note that sorting in-place still returns a reference", "# to the table being sorted, for convenience.", "return", "target_table" ]

[ "This", "matches", "Python", "s", "built", "-", "in", "sorting", "signature", "closely", "." ]

[ "def", "where", "(", "self", ",", "fieldname", ",", "value", ",", "negate", "=", "False", ")", ":", "if", "negate", ":", "return", "self", ".", "mask", "(", "[", "elem", "!=", "value", "for", "elem", "in", "self", "[", "fieldname", "]", "]", ")", "else", ":", "return", "self", ".", "mask", "(", "[", "elem", "==", "value", "for", "elem", "in", "self", "[", "fieldname", "]", "]", ")" ]

[ "Returns", "a", "new", "DataTable", "with", "rows", "only", "where", "the", "value", "at", "fieldname", "==", "value", "." ]

[ "def", "wheregreater", "(", "self", ",", "fieldname", ",", "value", ")", ":", "return", "self", ".", "mask", "(", "[", "elem", ">", "value", "for", "elem", "in", "self", "[", "fieldname", "]", "]", ")" ]

[ "Returns", "a", "new", "DataTable", "with", "rows", "only", "where", "the", "value", "at", "fieldname", ">", "value", "." ]

[ "def", "whereless", "(", "self", ",", "fieldname", ",", "value", ")", ":", "return", "self", ".", "mask", "(", "[", "elem", "<", "value", "for", "elem", "in", "self", "[", "fieldname", "]", "]", ")" ]

[ "Returns", "a", "new", "DataTable", "with", "rows", "only", "where", "the", "value", "at", "fieldname", "<", "value", "." ]

[ "def", "wherenot", "(", "self", ",", "fieldname", ",", "value", ")", ":", "return", "self", ".", "where", "(", "fieldname", ",", "value", ",", "negate", "=", "True", ")" ]

[ "Logical", "opposite", "of", "where", "." ]

[ "def", "wherenotin", "(", "self", ",", "fieldname", ",", "value", ")", ":", "return", "self", ".", "wherein", "(", "fieldname", ",", "value", ",", "negate", "=", "True", ")" ]

[ "Logical", "opposite", "of", "wherein", "." ]

[ "def", "writexlsx", "(", "self", ",", "path", ",", "sheetname", "=", "\"default\"", ")", ":", "writer", "=", "ExcelRW", ".", "UnicodeWriter", "(", "path", ")", "writer", ".", "set_active_sheet", "(", "sheetname", ")", "writer", ".", "writerow", "(", "self", ".", "fields", ")", "writer", ".", "writerows", "(", "self", ")", "writer", ".", "save", "(", ")" ]

[ "Writes", "this", "table", "to", "an", ".", "xlsx", "file", "at", "the", "specified", "path", "." ]

[ "def", "pyuri_formatter", "(", "namespace", ",", "value", ")", ":", "if", "namespace", "[", "0", "]", ":", "return", "\"%s_%s\"", "%", "(", "namespace", "[", "0", "]", ",", "value", ")", "else", ":", "return", "\"pyuri_%s_%s\"", "%", "(", "base64", ".", "b64encode", "(", "bytes", "(", "namespace", "[", "1", "]", ",", "\"utf-8\"", ")", ")", ".", "decode", "(", ")", ",", "value", ")" ]

[ "Formats", "a", "namespace", "and", "ending", "value", "into", "a", "python", "friendly", "format" ]

[ "def", "robots", "(", "self", ")", ":", "r", "=", "'noindex'", "if", "self", ".", "is_noindex", "else", "'index'", "r", "+=", "','", "r", "+=", "'nofollow'", "if", "self", ".", "is_nofollow", "else", "'follow'", "return", "r" ]

[ "Return", "values", "for", "robots", "html", "meta", "key" ]

[ "def", "_add_common_args", "(", "parser", ",", "is_create", "=", "True", ")", ":", "parser", ".", "add_argument", "(", "'--name'", ",", "help", "=", "_", "(", "'Name for the firewall rule.'", ")", ")", "parser", ".", "add_argument", "(", "'--description'", ",", "help", "=", "_", "(", "'Description for the firewall rule.'", ")", ")", "parser", ".", "add_argument", "(", "'--source-ip-address'", ",", "help", "=", "_", "(", "'Source IP address or subnet.'", ")", ")", "parser", ".", "add_argument", "(", "'--destination-ip-address'", ",", "help", "=", "_", "(", "'Destination IP address or subnet.'", ")", ")", "parser", ".", "add_argument", "(", "'--source-port'", ",", "help", "=", "_", "(", "'Source port (integer in [1, 65535] or range in a:b).'", ")", ")", "parser", ".", "add_argument", "(", "'--destination-port'", ",", "help", "=", "_", "(", "'Destination port (integer in [1, 65535] or range in '", "'a:b).'", ")", ")", "utils", ".", "add_boolean_argument", "(", "parser", ",", "'--enabled'", ",", "dest", "=", "'enabled'", ",", "help", "=", "_", "(", "'Whether to enable or disable this rule.'", ")", ")", "parser", ".", "add_argument", "(", "'--protocol'", ",", "choices", "=", "[", "'tcp'", ",", "'udp'", ",", "'icmp'", ",", "'any'", "]", ",", "required", "=", "is_create", ",", "type", "=", "utils", ".", "convert_to_lowercase", ",", "help", "=", "_", "(", "'Protocol for the firewall rule.'", ")", ")", "parser", ".", "add_argument", "(", "'--action'", ",", "required", "=", "is_create", ",", "type", "=", "utils", ".", "convert_to_lowercase", ",", "choices", "=", "[", "'allow'", ",", "'deny'", ",", "'reject'", "]", ",", "help", "=", "_", "(", "'Action for the firewall rule.'", ")", ")" ]

[ "If", "is_create", "is", "True", "protocol", "and", "action", "become", "mandatory", "arguments", "." ]