Он родился в простой семье потомственных сапожников в городе Хвалынске тогдашней Саратовской губернии, в 1878 году. Его отец прославился тем, что был единственным на весь город сапожником, не прикасавшимся к спиртному. Причиной тому была страшная трагедия детства, давшая сыну фамилию «Водкин» и сильнейшее отвращение к алкоголю. Его отец, в пьяном угаре зарезал свою жену и вскоре умер сам в страшной агонии. Так как отца звали Петром, то его дети приобрели фамилию Петровы, а попутно и прозвище — Водкины.
Когда Сергей Водкин женился на Анне Петровой, как-то естественно возникла двойная фамилия, которая стала передаваться по наследству.
Юный Кузьма не собирался становиться художником, он учился в начальном училище и планировал стать железнодорожником. Однако, как это иногда бывает, судьба распорядилась по-своему. Знакомство с иконописью поразило юношу, и он стал пробовать свои силы в искусстве. Он стал учиться в Самаре у Федора Бурова, но обучение прервала смерть последнего.
Судьба еще раз вмешалась в жизнь мастера, когда его работы попали на глаза известному архитектору Роберту-Фридриху Мельтцеру. Он забрал молодого человека в Санкт-Петербург, где помог ему с обучением в Центральном училище технического рисования барона Штиглица, впоследствии ставшее и лучше известное нам как Мухинское училище.
Первая работа Петрова-Водкина как зрелого самостоятельного художника отлично сохранилась до наших дней. Это икона в технике майолика на стене церкви в Александровском парке. Она впечатляет одновременно и каноничностью образа, и новаторским исполнением.
В 1897 году художник перебирается в Москву, где до 1905 года учится в Училище живописи, ваяния и зодчества в классе Валентина Серова. Следующие три года он путешествует и учится в различных европейских странах. В это время на его живопись имеют сильное влияние модернизм и символизм. Однако впоследствии у него появляется собственная оригинальная манера письма, которую можно считать сплавом реализма и сразу нескольких современных течений в живописи.
В 1911 году художник становится членом объединения «Мир искусства», через 8 лет — одним из соучредителей «Вольфила» — «Вольной философской ассоциации», просуществовавшей до 1924 года.
В советский период работы мастера были востребованы. Он писал живописные полотна, работал над графикой и создавал декорации, преподавал, писал статьи по искусству и с удовольствием отдался литературной деятельности.
В 1932 году он стал первым председателем отделения Союза советских художников в Ленинграде. Скончался мастер в 1939 году, оставив после себя огромное материальное и духовное наследие.