1893年，二十四岁的青年律师甘地接受了一个印度富商的聘请，来到那位富商开在南非纳塔尔的公司任职，负责处理公司的债务纠纷。
一天，甘地乘火车去首都比勒陀利亚。他买了一张头等车票，可还未在头等车厢坐定，一个殖民当局的官员就跟了进来，盛气凌人地对他说：“这儿不接待有色人种，你应该到货车车厢里去。”
“可是我有一张头等车票。”甘地理直气壮地回答。
“那不算数。如果你不走，那只能让警察来把你‘请’走。”那个官员蛮横地警告甘地。甘地不理他，端坐不动。但是，一会儿，警察果然来了，不由分说便把甘地推出了车厢，并把他的行李扔到了月台上。
这件事对甘地触动很大。他满怀希望来到也是英国殖民地的南非，原以为凭着自己留学英国、在英国考取的律师执照，在这里可以干一番事业，但仅仅因为自己是有色人种，是一个印度人，就遭到这般歧视，这是哪家的道理？
那时南非有十余万印度劳工，他们干的是当地人不愿干的苦活累活，收入却非常微薄，还遭到种种歧视和压迫。印度人不能坐头等和二等车厢，几乎没有一家旅馆肯接待他们；印度人必须住在特别划定的“专区”里，晚上九点以后禁止出门；印度人必须缴纳人头税，南非殖民当局甚至要剥夺他们的选举权。
甘地越来越为印度人在南非的遭遇而不平。于是，他在1894年5月组织了南非印度侨民的第一个政治团体——纳塔尔印度人大会，为争取印度人的权益而奔走。1901年，为了支持印度劳工掀起的罢工浪潮，他在南非创办了《印度舆论》周刊，宣传印度侨民的正义主张。甘地还花一千英镑在德班附近买了一百英亩土地，建立了一座专门帮助同胞的“凤凰新村”，他带着妻子和友人住了进去，也让失业的印度劳工入住，让他们自食其力，维持简朴的生活。
不过，真正让甘地名声大噪的是1907到1908年、1913年，他两次领导南非的印度人举行非暴力抵抗运动，要求殖民当局废除禁止印度向南非移民的“黑色法案”、废除人头税，虽然甘地几次被捕，但印度人罢工的浪潮愈演愈烈，迫使殖民当局最终释放了甘地，不得不取消人头税，允许印度人进入南非。
因此，当1915年1月甘地回到祖国时，他已是威望相当高的社会活动家了，很快就成了印度国民大会党（简称“国大党”）的实际领袖。
甘地原先对英国当局还抱有幻想。无论是1899年爆发的英国对南非荷兰移民后裔布尔人的英布战争，还是1906年南非纳塔尔人的反英起义，他都组织了印侨救护队去支援英国；一战期间，他更是站在英国一边，希望以此换取英国人的好感，让印度在战后获得自治。但是，战后英国对印度人民的统治和镇压变本加厉。1919年，英国当局公布了“罗拉特法案”，规定警察可以随意逮捕嫌疑分子，不经公开审讯就可以长期监禁。这激起了印度人民更加强烈的反抗。这年的4月13日，旁遮普邦阿姆利则市的群众在市政广场举行了大规模的和平集会，警察开枪镇压，当场打死一千二百人，打伤三千六百人，酿成了印度历史上著名的“阿姆利则”惨案。
血淋淋的事实让天性善良的甘地心潮难平，他决定回击英国殖民者。1920年9月，国大党在加尔各答的特别会议一开幕，甘地就作了发言。 “首先，我已经给印度总督李定勋爵写信，要求他收回我为英帝国服务而获得的三枚勋章，”甘地说，“以前，我曾经把它们看做是荣耀，现在，我认为这恰恰是我们的耻辱。因而，我提议诸位，辞去你们在殖民当局担任的职务，退还你们的勋章，不要去参加殖民政府的集会，我们决不同殖民政府合作。”
大会通过了甘地提出的“非暴力不合作”决议，号召印度人把子女从英国学校中领走，让他们进印度人办的学校；不同殖民者的法院打交道；抵制英国货，使用土布；不买英国公债；不纳税；不到英国人的银行里存钱，等等。
为什么面对强盗般的殖民者，甘地的不用暴力抵抗的思想会被印度人民广泛接受呢？这与印度的宗教有关。印度人大都信奉印度教，印度教最基本的教义就是“戒杀”，提倡以爱对恨，以德报怨。因此，他们接受了甘地的理念，相信只要坚持和平斗争，就一定能从精神上战胜殖民者。
甘地领导印度人民展开了轰轰烈烈的非暴力不合作运动。1921年7月，他在孟买带头焚毁英国布，全国各地纷纷响应，并有五十万工人举行罢工，使不合作运动达到了高潮。但是，当第二年2月2日，联合省（今印度北方邦）乔里乔拉的农民举行示威游行时，警察公然开枪射击，激怒了示威的群众。他们一把火烧毁了警察局，烧死了困在里面的一名警官与二十一名警察。“乔里乔拉事件”发生后不到十天，甘地突然宣布停止非暴力不合作运动。因为他认为群众使用了武力，超出了他规定的范围，必须停止。
当时，英国纺织品在印度的倾销铺天盖地，既损害了印度民族经济的发展，也造成了人民对英国货的盲目崇拜。因此，甘地发起了一个“提倡纺织和用土布”运动。他找出一架旧式的纺车，经过学生的改造后，带头使用，一根一根地纺出纱线，织成土布。从此，他无论去哪里，都随身带着这架木质纺车，一有空就纺纱。一个剃光头发，裸露上身，光脚盘腿坐在纺车前认真纺纱的老人形象，成为印度人民争取民族独立的象征。
在印度人民反英斗争不断高涨的压力下，1930年年初，印度总督欧文被迫与甘地进行谈判，不久签订了“甘地—欧文协定”（又称“德里协定”），规定殖民当局停止镇压，但国大党必须停止不合作运动。由于这个协议没有达到国大党提出的印度自治的要求，引起了党内外与民众的强烈不满。二战爆发后的1942年4月，甘地提出了英国“退出印度”的口号，领导印度人民掀起了新一轮民族独立运动的高潮，从声势浩大的全国大罢工到英国皇家海军中印度士兵的武装起义，此起彼伏，汹涌澎湃，迫使英国不得不同意印度独立。但是，印度最后一任总督蒙巴顿少将利用印度教徒与伊斯兰教徒的严重对立，制定出了分而治之的《蒙巴顿方案》，宣布在印度半岛建立两个国家：以伊斯兰教徒为主的巴基斯坦（包括今天的巴基斯坦与孟加拉国），以印度教徒为主的印度（即现在的印度共和国）。1947年8月14日，巴基斯坦自治领成立；第二天，印度联邦宣告诞生。印度举国欢庆，但甘地却在加尔各答的寓所中静静地绝食一天，因为他认为自己未能使印度人民团结起来，这是终身的遗憾！传说“圣雄”——玛哈拉是印度教三大主神之一毗湿奴的第十一个化身，与第十个化身佛祖释迦牟尼可以相提并论。“圣雄”的意思就是“伟大的灵魂”。
甘地被尊称为“圣雄”，可见他在印度人民心中至高无上的地位。1948年1月30日，甘地在赴祷告场的途中，被一个狂热的青年刺杀身亡。但正如印度联邦制宪会议上对他的高度评价，他无愧于“过去三十年来的向导和哲学家，印度自由的灯塔”。