char again;
do {
counter = 0;
while (counter < 3) {
printf("Please enter a number: ");
scanf("%d", &num);
counter++;
sum += num;
}
if (counter == 3) {
printf("Would you like to continue? [Y]Yes [N]No:");
scanf("%c", &again);
}
}while (again == 'Y');
なぜこれがうまくいかないのか理解できないようです。Yと入力すると壊れ、Nと入力すると壊れます。ユーザーが「N」を入力してプログラムを終了し、他の文字がなくなるまでループする必要があります。