• 4 odgovora
  • 3.331 pregleda
Preciznost racunanja u T-SQL broj decimala 17.09.2008. u 12:25 · pre 220 meseci #1
Imam sledeci izraz u T-SQL (SQL Server 2008)

SET @KamSto = (POWER((1.00 + @prosto / 100.00),(@dani / dbo.dayOfMonth(@DatDoC))) - 1.00) * 100.00

gde dobijam rezultat u preciznosti od 6 decimala

sam POWER izrac vraca rezultat sa 8 decimala

ima li leka
Re: Preciznost racunanja u T-SQL broj decimala 18.09.2008. u 14:14 · pre 220 meseci #3
Ne treba mi smanjenje decimala, vec mi treba da dobijem vise od 6 decimala, na primer 9, jer kod
obracuna kamete kod velikih cifara za osnovicu bitna je savka decimala.
Re: Preciznost racunanja u T-SQL broj decimala 19.09.2008. u 20:29 · pre 220 meseci #4
Povecaj preciznost promenljivih:

Code:

select POWER(convert(decimal(5,2), 3.00), 0.5)   -- vraca 1.73
select POWER(convert(decimal(18,12), 3.00), 0.5) -- vraca 1.732050807569
Prijavite se da biste odgovorili u ovoj temi.PrijavaRegistracija

Premeštanje teme