Kак в double задать n значащих цифр после запятой?

никак.

но уменьшить точность можно:

double d=0,12345;

d=int(d*1000.0)/1000.0;

//d==0,123

а если вопрос про форматирование строки, то так

"%0.3lf" (для printf)
http://msdn.microsoft.com/en-us/library/wc7014hz.aspx
http://msdn.microsoft.com/en-us/library/56e442dc.aspx