在樱桃树胡同17号，住着班克斯夫妇和他们的四个孩子：大女儿简，男孩迈克尔，以及一对双胞胎——约翰和巴巴拉。他们雇请布里尔太太帮他们烧饭，罗伯逊·艾帮他们除草，卡蒂大婶照料他们的孩子，可是有一天，卡蒂大婶突然离开了，他们不得不再寻找一个来替代她。
一天傍晚，简和迈克尔看到一个人影让风吹进了他们家。人影着地的时候，一整座房子都摇动了。他们看到，这是一个有一头黑发和一双蓝色小眼睛的女人，她用一只手捂住帽子，另一只手还拿着个手提袋。妈妈给他们介绍，这是新来照顾他们的保姆——玛丽·波平斯阿姨。
班克斯太太领着玛丽阿姨参观房间，可玛丽阿姨爬楼的方式与众不同，她是坐上楼梯扶手滑上去的。当把四个孩子逐个看完后，玛丽阿姨长长吸了口气，说了声： “我干。”她解开围脖，脱下帽子，打开手提袋，开始从里面拿东西，可简和迈克尔却发现，里面其实什么也没有！她拿出一个大瓶子，倒出各种颜色可口的饮料，让他们喝下去。玛丽照顾孩子十分熟练，让孩子们十分喜欢，但她的很多行为，也让孩子们迷惑不解。
几天后，玛丽阿姨和班克斯太太交涉，提出每隔一个礼拜休假一次，时间是下午一点到六点。玛丽阿姨爱时髦，要给人看到她最漂亮的样子，因此，她出门时要戴上白手套，胳肢窝里夹一把伞柄上带有鹦鹉头的伞，当然，这不是为了怕下雨。
玛丽阿姨休假去见的，是一位卖火柴的人，名字叫做伯特。他不是一位普通卖火柴的人，下雨天卖火柴，晴天则整天跪在人行道上用彩笔画画。出门前，玛丽阿姨进行了精心的打扮，可见，他是她生命中一个很重要的人。当然，见到玛丽，伯特也十分高兴，握着玛丽戴着白手套的手，带她走进了自己的画里。在画里，他们一起度过了一个愉快、惬意的假日生活。
休假一回来，简和迈克尔就向玛丽阿姨扑了过来，问她上哪儿去了。“上童话世界去了。”玛丽阿姨平静地回答，“各人有各人的童话世界！”
不久，玛丽阿姨带着简、迈克尔去拜访他的叔叔贾透法先生。“为什么叫贾透法先生呢？” 迈克尔问，“因为他戴的是假发吗？”“他的名字就叫贾透法，他根本不戴头发，是个秃脑袋，”玛丽阿姨不耐烦了。三个人坐上公共汽车，很快就进了贾透法先生的房屋。可他们在屋子里只看到壁炉里熊熊烧着的火，以及大桌子上的茶杯、面包、黄油、烤饼、梅子大蛋糕等等，并没有看到贾透法先生。
突然，一个洪亮的声音从空中传来：“真高兴你们能来！”他们大吃一惊，抬头看见一位秃顶大胖子正悬在半空中。“这到底怎么回事？”贾透法先生平静地告诉他们，“今天我生日，我十分高兴，可我一笑就充满了笑气，因此飞到了空中。”受他的影响，简、迈克尔还有玛丽阿姨也有了笑气，在空中蹦蹦跳跳，飞来飞去。贾透法先生请他们一起吃茶点，一起回忆高兴的事，严肃的事和伤心的事。当他们回忆起伤心的事情来后，下面的桌子就开始晃动起来，上面的杯子盘子丁当碰响……
到了晚上，玛丽阿姨带着简和迈克尔回家了。但当他们提到贾透法先生的幽默时，玛丽阿姨却显然非常生气，说她的叔叔是一个严肃、老实、苦干的人，请他们讲到时尊敬他一点。这又弄得简和迈克尔莫名其妙了。
班克斯家隔壁住着拉克小姐，她的房子是樱桃树胡同最大的，连布姆海军上将都很眼红。拉克小姐身上戴着很多别针、项链和耳环，走起路来丁丁当当，像个铜管乐队。她身边还有一条毛蓬蓬的小狗，叫做安德鲁。奇怪的是，玛丽阿姨不仅能听懂安德鲁的话，还知道它想什么，并说它并不是一个傻瓜。“玛丽阿姨怎么能懂它的话呢？”迈克尔问到。简回答：“我也说不出，可她永远不会告诉我们的，这点我确信。”
一天，简感到耳朵疼，用印花手帕裹着头躺在床上，在床边，玛丽阿姨给她讲起了一头红母牛的故事。说那头牛是她妈妈的好朋友，住在一片长满金凤花和蒲公英的田野上，一举一动像个贵族夫人。它每天早晨起来给女儿红小牛上课，下午教它一切有教养的行为和称呼。待晚上孩子睡着了，它就到田野的一头去反刍，静静地想它的心事。后来红母牛喜欢起跳舞了，一跳就再也停不下来了。最后，她只好来到王宫，请求国王来帮忙。
还有一天，迈克尔早上醒来后，有一种不好的感觉。起初是胃口不好，后来变得脾气暴躁起来，连洗澡也不听话，紧接着碰翻了艾伦手里的一杯热水，还朝布里尔太太的小腿上狠狠踢了一脚，用一根绳子把安德鲁的尾巴挂在栏杆上。最后，迈克尔还走进爸爸的书房，拿起钢笔在吸水纸上写写画画，用手肘碰翻了墨水瓶，把椅子、桌子、羽毛笔和他最好的衣服都泼了蓝墨水。“那孩子准病了。”大家都这么认为。迈克尔的行为也让玛丽阿姨十分生气，要求他穿着那件自己弄脏的衣服，在儿童室面壁思过。
为了帮助迈克尔赶快恢复过来，玛丽阿姨决定带他们出去散散步。在路上，迈克尔忽然发现路上一个小圆盘似的东西，上面嵌一块玻璃，玻璃上画着一支箭，里面布满字母。迈克尔刚把圆盘拣起来，就被玛丽阿姨拿去了，说这是她先看到的，她要用它来环游世界。
玛丽阿姨捧着圆盘，说了声：“北！”只见圆盘上的字母开始绕着箭头飞转，天气一下子变得非常冷，周围是蓝色的大冰块，脚下是冻硬的厚雪。还有，从一块大冰块的洞里还出来了一位爱斯基摩人，上前用鼻子跟大家交流，爱斯基摩太太则抱着一个用海豹皮围巾裹着的爱斯基摩娃娃，出来同玛丽打招呼。
接下来，玛丽阿姨转了转圆盘，说了声：“南！”简和迈克尔觉得天气越来越暖和了。一会儿，他们发现自己正站在棕榈树的旁边，周围都是金色和银色的沙，棕榈树下坐着一男一女，还有一个光身子的黑娃娃。他们邀请玛丽阿姨到屋里吃西瓜，还开玩笑说要给简和迈克尔涂涂黑油。
为了离开这个地方，玛丽阿姨又转动圆盘，说了声：“东！”地球又开始转了。当一切停下来后，孩子们发现自己已在一条街上，两旁是奇怪的小房子，房子旁边长着杏树和梅树。沿着小街，穿奇怪花衣服的人们安详地走着，一幅和平的景象。一位老人出来向他们深深鞠躬，邀请他们到他的房子里去。
最后，玛丽阿姨转动圆盘，说了一声“西！”地球又开始转动了。停下后，他们发现自己置身在一座大松林中，几个戴羽毛、穿紧身短上衣的人请玛丽阿姨和孩子们这儿来，一起吃烤野鹿晚饭，但玛丽回答他们只是路过……
很快，简和迈克尔发现自己又回到了原地，玛丽阿姨要求他们回去吃饭。晚上，迈克尔正要上床，忽然从五斗橱顶上看见了那个圆盘。他爬上去拿下圆盘，轻轻转动后说了声：“北，南，东，西！”话音刚落，只见四个巨人分别拿着长矛、大棍棒、大弯刀和战斧，从房间的四个角落向近克尔扑过来，迈克尔大叫一声，丢下了手里的圆盘。玛丽阿姨跑过来，警告他不要再碰她的圆盘。迈克尔睁开眼睛，发现眼前连巨人的一点影子也没有。
迈克尔和简要进城去看他们的爸爸了。玛丽阿姨走在他们中间，戴着一顶新帽子，帽子上的玫瑰花十分鲜艳，但玛丽阿姨更爱看街边的橱窗。可惜，在圣保罗大教堂，玛丽阿姨老把这里的鸽子叫做 “麻雀”，当然，她把所有的鸟都叫做麻雀。他们来到菜市场，买了一磅香肠，几条鱼和几只虾，另外，还有姜饼。姜饼是从科里太太那儿买的，一共买了十三个。
玛丽阿姨在家整天忙个不停，一忙她就喜欢生气。简不管做什么事，玛丽阿姨都觉得不对，要是轮到迈克尔，情况就更糟了。简说：“我们可以数我们存钱罐里的钱，她吃了晚饭也许会好点。”“哈，我想你们数钱，是为了买一架飞机吧！”玛丽阿姨没好气地说。“现在不知道动物园里会有什么事情。”迈克尔问到。“多发愁，伤身体。”玛丽阿姨又不耐烦了。晚上睡觉后，简和迈克尔做了一个同样的梦，梦见他们在动物园游玩，和动物有着亲密的接触，同去的还有玛丽阿姨。但在他们醒来后，玛丽阿姨并不承认，尽管她的腰间束着一根金蛇皮做的皮带，上面写着：“动物园敬赠。”
圣诞节要到了。简说：“我闻到雪的味道了。”“我闻到圣诞树的味道了。”迈克尔回答。“我闻到鱼的味道了。”玛丽阿姨也搭起腔来。为了过圣诞节，他们决定到百货公司买东西。他们知道，玛丽阿姨最爱看商店玻璃橱窗，而且只管看橱窗上自己的影子。当他们买好东西要出门时，看见一个女孩的身影闪烁着跑了进来，身上只轻飘飘地围着一缕蓝纱，眼睛闪着蓝色的火焰。和玛丽阿姨打过招呼后，她说自己叫玛雅，是七姊妹星团里的老二，在天上经常看到迈克尔他们。
春季里的第一天，阳光很好，天上刮着微微的西风。忽然，迈克尔满脸通红地下楼，拨着一个圆盘，对简说，“玛丽阿姨说它现在归我了，但我估计要出事了，因为玛丽阿姨从不浪费时间发善心。” 那天下午，玛丽阿姨没说过一句生气的话。对迈克尔的猜测，玛丽阿姨只是“烦恼，烦恼，自找烦恼”地反驳他。
靠近傍晚，风大起来了。玛丽阿姨把东西收拾干净，穿上外衣，戴上帽子，微笑着，看样子要出门了。她好像跟风有默契，一打开伞，风就狂啸着把伞从下面托起向上推，把她吹出了院门，吹向胡同里的樱桃树梢。“玛丽阿姨要走了！”简和迈克尔十分舍不得，打开窗子想尽力挽留她。但玛丽阿姨飞到云间，飘过山头，很快便消失得无影无踪了。
“真叫人受不了，也不打个招呼就走了！”班克斯太太说道。但简和迈克尔却因玛丽阿姨离开难过得大哭起来，说天底下只要玛丽阿姨。这时，布里尔太太发现了玛丽阿姨留下来的一个用棕色纸包着的小包。简打开小包，发现了里面一张玛丽阿姨的画像，画底下还有一封信，信上写着：“亲爱的简：迈克尔有了圆盘，这幅画就送给你。”信的最后则是一个念不懂的词——“Aurevoir”。布里尔太太告诉他们，这词好像是“再见”的意思。
简和迈克尔相互对看了一下，眼睛里闪着快乐和理解的光芒。他们知道玛丽阿姨的意思，她一向说到做到。
