Issu de la noblesse italienne, il reçoit en compagnie de sa sœur Isabella une éducation particulière, qu'il qualifia lui-même de "médiévale". Ses leçons de musique furent toutes en cours particuliers, d'abord à Rome auprès de Giacinto Sallustio, puis à Vienne avec Walter Klein, élève de Schoenberg. Il s'intéresse également aux théories deScriabine. Il se rend fréquemment en Suisse et en France (Scelsi maîtrisait parfaitement la langue de Molière, au point d'écrire des poèmes en français), où il se lie d'amitié avec Jean Cocteau, Norman Douglas, Mimì Franchetti, Virginia Woolf... La création en 1931 de Rotativa sous la direction de Pierre Monteux à la Salle Pleyel attire l'attention sur le jeune compositeur. De retour à Rome en 1937, il organise avec ses propres fonds des concerts de musique contemporaine, en collaboration avec le compositeur Goffredo Petrassi, où sont joués des œuvres de Stravinsky, Kodaly, Chostakovitch, Schoenberg, Hindemith, alors quasiment inconnus en Italie.
En 1940, il se réfugie en Suisse, où il épouse Dorothy-Kate Ramdsen. Son activité artistique est intense, en tant que poète ou compositeur. Le pianiste Nikita Magaloffcrée nombre de ses œuvres. En 1945, il retourne à nouveau à Rome. Il traverse à la fin des années 40 une grande crise morale où il remet en question toutes ses compositions antérieures, et supporte mal la création de son Quatuor à cordes et de son oratorio La naissance du verbe à Paris en 1949 sous la direction de Roger Désormière. Pendant un internement en hôpital psychiatrique, il ne joue au piano qu'une seule note (un la bémol) dont il explore toutes les possibilités sonores avec les harmoniques provoquées par les vibrations par sympathie. Entre deux internements, il se rend sur Paris et fait éditer par Guy Levis Mano ses recueils de poésie. Il fait la connaissance d'Henri Michaux, avec qui il se lie d'amitié.
Il fait alors plusieurs voyages en Orient, où il en découvre la spiritualité. Après de nombreux séjours en Europe, il se fixe définitivement à Rome, où il travaille de manière solitaire. Il se procure un des premiers instruments électroniques, l'ondioline, qui possède la capacité de faire des intervalles inférieurs au demi-ton. Incapable physiquement et psychologiquement de transcrire ses improvisations, il les enregistre sur bande magnétique et les confie à des copistes. Cette manière de procéder fit dire à de nombreux compositeurs et musicologues que Scelsi n'était pas l'auteur de ses œuvres. Ainsi se forme autour du créateur un cercle privé fait d'assistants et d'interprètes avec lesquels il collabore étroitement. Scelsi détruisit toutes ses œuvres antérieures, considérées comme trop académiques, et ne livre au public sa nouvelle esthétique qu'en 1961, avec la création à Paris des Quattro pezzi su una nota sola sous la direction de Maurice Le Roux. Cette œuvre pour orchestre, en quatre mouvements, chacun fondé sur une seule note, est l'exacte contemporaine d'Atmosphère de György Ligeti, qui exploite la microtonalité et la micropolyphonie.
Imprégné de culture orientale, Scelsi se voulait avant tout un messager, "un facteur" s'amusait-il à dire. Le message venant de plus haut. En outre, il refusait de se faire photographier.
Son œuvre et sa pensée musicale ont eu une grande influence sur les musiciens fondateurs de l'Itinéraire : Tristan Murail, Gérard Grisey, Michaël Levinas, que Scelsi a pu rencontrer lors de leur passage à la Villa Médicis au début des années 70. Ceux-ci furent les promoteurs de son œuvre, qui connut au début des années 80 une vaste diffusion en étant éditée chez Salabert. À leur suite, de nombreux compositeurs ont été influencés par sa pensée ou son écriture : Kaija Saariaho, Solange Ancona... En même temps, toute son œuvre poétique et littéraire était imprimée aux éditions "Le parole gelate", à Rome. Dans ses dernières années, Scelsi se rendit autant que possible aux concerts où ses œuvres étaient jouées, le dernier étant à La Spezia, sa ville natale où il n'était plus revenu depuis l'enfance, le 1er avril 1988. Il perd connaissance le 8 août 1988, dernier signe de cet original qui signait ses partitions d'un trait surmonté d'un cercle.