{ "citation": "@inproceedings{jiang2023vima, title = {VIMA: General Robot Manipulation with Multimodal Prompts}, author = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning}, year = {2023}. }", "description": "SIM dataset of a single robot arm performing procedurally-generated tabletop tasks with multimodal prompts, 600K+ trajectories", "fileFormat": "tfrecord", "location": { "urls": [ "https://vimalabs.github.io/" ] }, "moduleName": "__main__", "name": "vima_converted_externally_to_rlds", "releaseNotes": { "0.0.1": "Initial release." }, "splits": [ { "filepathTemplate": "{DATASET}-{SPLIT}.{FILEFORMAT}-{SHARD_X_OF_Y}", "name": "train", "numBytes": "1525844722214", "shardLengths": [ "323", "341", "342", "354", "343", "315", "325", "298", "314", "354", "336", "348", "359", "326", "331", "312", "326", "321", "303", "343", "338", "329", "331", "357", "336", "343", "308", "310", "335", "315", "364", "297", "354", "306", "337", "353", "354", "317", "286", "316", "304", "329", "363", "307", "327", "347", "323", "299", "285", "307", "316", "323", "286", "332", "343", "315", "338", "309", "366", "356", "317", "309", "301", "333", "339", "295", "306", "343", "308", "321", "343", "337", "314", "295", "327", "341", "298", "332", "353", "311", "320", "330", "325", "322", "328", "335", "317", "311", "327", "355", "302", "329", "316", "316", "305", "308", "283", "294", "330", "328", "310", "312", "334", "337", "358", "332", "325", "312", "325", "325", "331", "331", "319", "321", "350", "324", "324", "349", "345", "302", "308", "328", "326", "298", "333", "314", "344", "320", "343", "303", "327", "299", "326", "344", "323", "320", "329", "336", "316", "330", "315", "295", "320", "321", "326", "330", "335", "312", "332", "334", "327", "314", "317", "317", "303", "297", "318", "315", "344", "358", "354", "308", "318", "320", "325", "321", "317", "329", "300", "324", "309", "329", "333", "295", "305", "330", "313", "343", "340", "314", "343", "310", "337", "320", "376", "331", "318", "298", "348", "337", "312", "309", "317", "336", "324", "344", "324", "312", "310", "327", "324", "347", "293", "314", "306", "305", "306", "313", "291", "339", "360", "343", "307", "335", "317", "322", "333", "346", "309", "336", "335", "339", "348", "326", "331", "311", "303", "303", "327", "333", "315", "292", "352", "339", "310", "300", "348", "299", "309", "296", "326", "330", "297", "334", "295", "289", "298", "322", "326", "330", "320", "296", "304", "321", "289", "299", "316", "302", "308", "336", "315", "317", "326", "330", "316", "294", "283", "303", "347", "320", "334", "319", "335", "338", "317", "297", "327", "315", "323", "314", "325", "314", "324", "339", "358", "340", "308", "302", "340", "325", "338", "314", "296", "337", "326", "295", "336", "326", "292", "330", "306", "344", "344", "303", "306", "352", "318", "278", "315", "353", "339", "354", "330", "350", "332", "328", "336", "342", "349", "303", "289", "308", "323", "291", "307", "340", "299", "340", "311", "360", "319", "319", "327", "350", "323", "341", "312", "309", "319", "312", "320", "328", "326", "299", "329", "329", "317", "309", "344", "306", "298", "326", "334", "312", "329", "340", "278", "334", "361", "353", "355", "355", "329", "353", "337", "318", "343", "260", "338", "301", "303", "319", "337", "343", "312", "323", "296", "310", "329", "320", "299", "374", "316", "323", "302", "296", "321", "326", "307", "294", "310", "295", "324", "306", "336", "298", "335", "326", "317", "338", "292", "319", "351", "346", "323", "289", "284", "337", "296", "312", "319", "327", "380", "314", "350", "338", "314", "329", "306", "331", "331", "320", "318", "304", "329", "323", "321", "341", "337", "318", "319", "326", "324", "334", "310", "294", "309", "329", "306", "336", "337", "320", "292", "332", "371", "335", "322", "295", "349", "358", "288", "312", "322", "340", "307", "337", "315", "303", "309", "297", "347", "288", "324", "347", "288", "321", "329", "346", "309", "304", "317", "341", "314", "346", "328", "317", "307", "336", "311", "310", "343", "312", "327", "305", "336", "320", "331", "313", "343", "314", "349", "342", "318", "320", "323", "343", "335", "313", "310", "339", "330", "322", "292", "338", "306", "317", "328", "334", "309", "368", "342", "353", "317", "312", "313", "317", "297", "309", "277", "326", "313", "303", "314", "313", "353", "296", "320", "336", "333", "328", "288", "353", "322", "314", "331", "298", "327", "306", "319", "321", "353", "326", "324", "275", "356", "309", "325", "291", "318", "328", "298", "333", "338", "339", "318", "315", "342", "305", "312", "355", "311", "337", "288", "296", "318", "322", "345", "312", "313", "330", "323", "325", "299", "329", "330", "324", "326", "329", "347", "320", "327", "312", "341", "314", "323", "303", "311", "317", "346", "301", "323", "319", "343", "335", "316", "340", "322", "295", "277", "314", "333", "288", "333", "332", "321", "337", "321", "391", "288", "318", "310", "316", "285", "342", "306", "307", "305", "345", "342", "278", "339", "345", "327", "314", "317", "311", "313", "305", "318", "310", "309", "315", "318", "323", "306", "327", "301", "320", "328", "322", "296", "315", "315", "309", "323", "319", "319", "304", "335", "328", "344", "331", "329", "348", "327", "319", "336", "333", "346", "338", "320", "298", "334", "334", "319", "337", "307", "313", "320", "323", "324", "363", "308", "350", "336", "343", "318", "321", "321", "343", "330", "333", "292", "333", "353", "329", "332", "331", "310", "326", "354", "325", "325", "322", "287", "353", "321", "347", "317", "338", "300", "359", "314", "319", "312", "293", "335", "314", "313", "326", "298", "311", "304", "340", "297", "342", "306", "303", "337", "317", "320", "305", "342", "299", "336", "338", "317", "311", "320", "304", "326", "320", "333", "297", "359", "298", "290", "323", "274", "320", "340", "337", "326", "339", "314", "346", "342", "327", "348", "288", "338", "318", "339", "321", "336", "366", "324", "319", "346", "303", "344", "321", "328", "327", "343", "294", "329", "316", "304", "309", "299", "342", "324", "330", "290", "332", "316", "319", "324", "294", "339", "323", "304", "315", "307", "301", "290", "279", "331", "336", "342", "299", "328", "310", "345", "329", "326", "329", "333", "340", "332", "330", "286", "316", "323", "315", "293", "314", "306", "305", "320", "359", "336", "324", "345", "337", "317", "360", "336", "342", "317", "349", "346", "332", "311", "314", "337", "343", "319", "318", "272", "305", "357", "301", "303", "305", "333", "350", "328", "348", "301", "333", "299", "323", "302", "299", "310", "312", "321", "333", "315", "278", "301", "330", "328", "310", "336", "289", "333", "305", "298", "322", "307", "287", "317", "355", "297", "325", "353", "344", "362", "316", "335", "327", "340", "313", "304", "309", "314", "318", "327", "332", "329", "323", "303", "322", "310", "325", "322", "322", "319", "344", "325", "357", "310", "283", "329", "292", "325", "344", "328", "334", "340", "319", "364", "309", "316", "363", "326", "335", "315", "326", "322", "337", "318", "348", "351", "318", "318", "336", "335", "332", "338", "318", "315", "335", "311", "331", "342", "304", "330", "352", "324", "309", "303", "339", "324", "311", "313", "318", "319", "304", "337", "318", "333", "325", "310", "318", "330", "311", "338", "305", "299", "347", "309", "295", "329", "323", "302", "341", "333", "314", "304", "316", "335", "337", "303", "295", "346", "282", "317", "326", "292", "331", "297", "331", "315", "318", "351", "320", "339", "324", "339", "334", "303", "331", "311", "300", "328", "308", "325", "309", "362", "333", "309", "303", "308", "328", "306", "325", "330", "300", "298", "332", "316", "332", "322", "345", "321", "322", "297", "325", "297", "306", "345", "315", "322", "323", "304", "339", "309", "291", "312", "303", "322", "344", "338", "328", "323", "330", "313", "315", "322", "302", "280", "321", "335", "300", "336", "318", "313", "323", "328", "299", "343", "298", "318", "328", "342", "338", "327", "306", "329", "326", "347", "304", "335", "298", "293", "369", "293", "325", "295", "341", "317", "306", "318", "320", "325", "314", "318", "321", "321", "316", "334", "314", "283", "286", "296", "304", "316", "318", "314", "315", "315", "321", "299", "306", "317", "319", "304", "328", "304", "341", "321", "312", "301", "339", "339", "354", "322", "344", "357", "318", "309", "305", "349", "323", "325", "315", "343", "325", "345", "324", "326", "296", "322", "311", "327", "309", "316", "313", "342", "321", "340", "330", "307", "320", "329", "328", "303", "320", "350", "317", "318", "319", "302", "317", "359", "319", "345", "306", "309", "363", "329", "309", "299", "340", "309", "313", "312", "356", "290", "331", "327", "291", "325", "323", "290", "321", "313", "303", "314", "310", "332", "304", "310", "346", "332", "342", "333", "323", "321", "322", "313", "316", "342", "315", "307", "314", "325", "299", "338", "296", "327", "354", "321", "336", "315", "324", "320", "315", "340", "366", "293", "314", "336", "305", "344", "342", "330", "342", "318", "319", "333", "350", "334", "340", "307", "331", "305", "322", "315", "289", "313", "312", "319", "346", "311", "315", "340", "308", "324", "343", "351", "295", "297", "294", "338", "330", "335", "300", "345", "323", "346", "312", "317", "324", "304", "324", "349", "337", "332", "315", "337", "325", "319", "325", "351", "302", "343", "325", "321", "348", "330", "328", "341", "369", "313", "345", "311", "371", "315", "349", "320", "356", "350", "318", "300", "350", "329", "326", "315", "333", "354", "322", "311", "316", "329", "291", "325", "317", "280", "366", "292", "319", "305", "340", "335", "340", "313", "311", "293", "339", "301", "301", "280", "316", "292", "330", "336", "314", "317", "359", "356", "289", "298", "330", "345", "368", "323", "307", "324", "355", "354", "319", "333", "327", "307", "343", "317", "330", "306", "315", "330", "319", "325", "314", "317", "323", "333", "310", "331", "317", "310", "327", "342", "306", "342", "319", "323", "303", "307", "341", "311", "327", "323", "361", "318", "331", "293", "317", "334", "327", "322", "305", "320", "341", "293", "324", "354", "311", "306", "294", "322", "314", "345", "317", "344", "308", "352", "336", "327", "312", "334", "307", "326", "326", "336", "318", "291", "312", "311", "356", "343", "324", "348", "356", "311", "292", "296", "309", "318", "321", "320", "332", "320", "335", "320", "319", "316", "305", "298", "320", "321", "362", "290", "338", "342", "319", "297", "319", "327", "354", "338", "332", "324", "332", "333", "314", "305", "351", "334", "314", "342", "339", "350", "289", "310", "323", "303", "318", "327", "305", "348", "331", "326", "302", "335", "326", "326", "296", "355", "358", "322", "284", "317", "341", "336", "301", "333", "316", "298", "350", "341", "337", "298", "300", "318", "322", "345", "319", "346", "323", "338", "294", "329", "348", "298", "310", "298", "374", "350", "314", "317", "301", "329", "306", "303", "319", "362", "324", "318", "332", "319", "322", "326", "333", "338", "291", "306", "342", "339", "334", "307", "300", "342", "331", "319", "325", "315", "337", "295", "308", "329", "326", "318", "355", "329", "322", "322", "338", "343", "343", "322", "303", "314", "313", "328", "348", "321", "304", "327", "350", "302", "342", "329", "305", "331", "319", "320", "291", "308", "325", "322", "316", "327", "316", "317", "303", "317", "322", "340", "320", "321", "304", "304", "303", "301", "295", "297", "327", "316", "321", "322", "304", "337", "318", "311", "314", "318", "299", "338", "290", "338", "313", "307", "289", "318", "328", "330", "317", "304", "347", "314", "345", "318", "300", "321", "334", "353", "334", "331", "309", "360", "302", "323", "318", "311", "307", "335", "322", "316", "299", "287", "317", "292", "315", "317", "321", "356", "313", "293", "292", "294", "317", "322", "315", "348", "286", "302", "316", "317", "309", "327", "328", "350", "313", "318", "318", "363", "326", "291", "324", "346", "338", "295", "302", "316", "332", "331", "297", "340", "325", "348", "339", "344", "317", "328", "322", "314", "349", "304", "316", "323", "328", "336", "312", "287", "330", "338", "333", "288", "348", "290", "299", "326", "330", "313", "314", "358", "336", "338", "322", "307", "332", "369", "352", "335", "351", "344", "323", "285", "331", "361", "338", "315", "332", "322", "320", "322", "352", "314", "342", "334", "333", "307", "323", "328", "328", "309", "328", "339", "334", "355", "355", "351", "298", "332", "293", "327", "327", "283", "325", "339", "317", "327", "341", "346", "332", "346", "351", "352", "296", "288", "338", "291", "311", "300", "311", "339", "355", "319", "322", "341", "342", "347", "329", "372", "333", "318", "307", "335", "284", "337", "337", "327", "291", "318", "352", "329", "309", "349", "323", "303", "308", "349", "300", "351", "314", "308", "315", "326", "331", "315", "340", "309", "308", "316", "311", "306", "328", "319", "296", "350", "314", "313", "324", "303", "303", "300", "319", "362", "271", "311", "335", "329", "326", "352", "297", "303", "327", "284", "340", "301", "369", "324", "351", "319", "295", "367", "341", "314", "368", "334", "318", "303", "318", "352", "346", "319", "334", "315", "346", "344", "353", "316", "311", "329", "314", "368", "349", "337", "299", "356", "352", "324", "322", "325", "341", "335", "306", "284", "294", "287", "326", "342", "297", "284", "329", "309", "315", "335", "296", "305", "345", "314", "311", "329", "323", "310", "328", "303", "303", "334", "323", "327", "336", "319", "314", "340", "332", "311", "326", "341", "325", "308", "319", "349", "338", "281", "316", "316", "331", "323", "321", "279", "332", "293", "321", "322", "341", "297", "303", "333", "315", "317", "312", "306", "344", "327", "326", "368", "311", "302", "346", "329", "317", "305", "310", "302", "309", "316", "306", "318", "319", "311", "323", "324", "325", "335", "343", "279", "319", "351", "329", "292", "329", "308", "322", "321", "356", "311", "291", "316", "321", "305", "346", "285", "311", "310", "349", "312", "324", "317", "329", "335", "314", "328", "327", "309", "346", "318", "316", "333", "334", "316", "281", "337", "302", "310", "342", "305", "336", "341", "295", "318", "322", "324", "338", "283", "301", "303", "330", "329", "292", "314", "328", "309", "283", "323", "292", "318", "334", "321", "338", "329", "310", "325", "316", "330", "317", "330", "308", "326", "319", "336", "313", "383", "306", "324", "340", "349", "321", "333", "345", "302", "314", "331", "288", "318", "347", "296", "315", "307", "325", "314", "343", "335", "335", "341", "320", "330", "321", "308", "356", "341", "359", "313", "333", "325", "306", "318", "323", "309", "335", "320", "330", "325", "341", "323", "329", "362", "319", "361", "310", "328", "303", "320", "323", "282", "292", "331", "323", "313", "336", "321", "335", "329", "324", "306", "335", "339", "333", "314", "293", "291", "298" ] } ], "version": "0.0.1" }