जरी अहिंसेचे तत्त्व गांधीजींनी स्वतः मांडले नसले तरी इतक्या मोठ्या राजकीय स्तरावर अहिंसेचा अवलंब करणारे ते पहिले व्यक्ती होते. हिंदू, बौद्ध, जैन, ज्यू धर्मात अनेक ठिकाणी अहिंसेच्या तत्त्वाचा उल्लेख आहे. "माझे सत्याचे प्रयोग" मध्ये गांधीजींनी त्यांचे अहिंसेचे तत्त्वज्ञान मांडले आहे. ते म्हणतात,
"जेव्हा मी निराश होतो,तेव्हा मी स्मरण करतो की, इतिहासात प्रत्येक वेळी सत्य आणि प्रेमाचाच विजय होत आला आहे. (इतिहासात) अनेक क्रूरकर्मे होऊन गेले आणि काही काळासाठी ते अजिंक्य पण वाटले, पण नेहमी शेवटी त्यांचा पराभवच झाला आहे-विचार करा, नेहमीच."
"विध्वंस हा सर्वंकषतावादाच्या नावाखाली केला गेला की, स्वातंत्र्य आणि लोकशाहीच्या नावाखाली-(त्यातील) मृतांसाठी, अनाथांसाठी आणि गृहहीनांसाठी काय फरक असणार?"
"डोळ्यासाठी डोळा सर्व जगाला आंधळे करून सोडेल."
"अशी अनेक ध्येये आहेत ज्यासाठी मी जीव द्यायला तयार आहे. पण असे एकही ध्येय नाही ज्यासाठी मी कुणाचा जीव घेईन."
गांधीजींना हे माहीत होते की, अहिंसेचे या पातळीपर्यंत पालन करण्यासाठी प्रचंड श्रद्धा आणि धैर्य आवश्यक आहे, आणि प्रत्येकाजवळच ते असणे शक्य नाही. त्यामुळे ते सल्ला देत की जर अहिंसा भित्रेपणाला झाकण्यासाठी वापरण्यात येत असेल तर प्रत्येकाने अहिंसेचे पालन करणे आवश्यक नाही.