int64_t に小数が含まれているものと、その数を知る必要があります。これは、if-else ステートメントに配置する必要があります。このコードを試しましたが、アプリがクラッシュします。
NSNumber *numValue = [NSNumber numberWithInt:testAnswer];
NSString *string = [numValue stringValue];
NSArray *stringComps = [string componentsSeparatedByString:@"."];
int64_t numberOfDecimalPlaces = [[stringComps objectAtIndex:1] length];
if (numberOfDecimalPlaces == 0) {
[self doSomething];
} else {
[self doSomethingElse];
}