Transcript · English → Spanish
English → Spanish transcript
Cuéntame más sobre eso. Hay, como, ¿cuáles son algunos de los ejemplos raros que muestran
que estaríamos en una simulación, en los que piensas?
Mira los videojuegos y cómo optimizamos los gráficos, el renderizado, cosas de ese tipo,
y luego mira la física cuántica y lo parecida que es. Sabemos que hay efectos del observador.
Las cosas no se renderizan a menos que un jugador las mire. Hay una naturaleza discreta
de la física, algo así como las actualizaciones en un videojuego. Hay una velocidad fija de la luz, que
es, de nuevo, la velocidad del procesador de una computadora. Hay artículos que mapean todos esos conceptos
que muestran que esto muy probablemente es una simulación de física digital.
Entonces, ¿qué haría que no fuera una simulación? O sea, ¿no tendría que haber restricciones?
Por ejemplo, ¿por qué tendría una no simulación eficiencia al representar? ¿Por qué
importaría que estés mirando algo o no para que se represente? No debería
hacer ninguna diferencia. Así que el experimento de la doble rendija debería comportarse igual, lo
estés mirando o no.
Y eso se ha replicado múltiples veces.
Es probablemente el resultado más establecido de toda la ciencia.
Sí, todas las religiones predijeron que un creador juzgaría a la humanidad. ¿Crees que estamos
construyendo por accidente un dios que nos juzgará?
Sería difícil, porque la fuente del juicio debería ser un ser
superinteligente. Así que no tendría sentido juzgarnos retroactivamente por éticas futuras que invente. Tiene
sentido si estamos creando algo ahora mismo, estamos estableciendo un conjunto de estándares éticos,
estamos creando IA y diciendo: tienes que seguir ese conjunto. Y si no lo haces, te desactivaremos
a ti, te castigaremos de alguna manera. Es coherente. Pero crear un montón de agentes, dejarlos
hacer lo suyo y luego decir: en realidad, lo que estás haciendo es poco ético, no tiene sentido.
A veces lo hacemos con nuestra cultura. Juzgamos a la gente del pasado con los estándares de hoy.
Decimos: oh, tenemos que derribar este monumento, ya sabes, hace 200 años ese tipo no era
vegano. Dios mío, qué tipo tan loco. En esa época, era la forma de hacerlo.
Eso es interesante. Entonces piensas que, lógicamente, lo que nos juzgaría sería la
cosa que nos creó al principio en la simulación, no la cosa que estamos creando.
Supongo que cuál es el elemento diferenciador entre si creamos una superinteligencia frente a la
cosa que nos creó, o sea, ¿no serían de la misma entidad, casi como si fueran
estuvieran en el mismo nivel?
Parece que en un caso tienes justicia, tienes un diseñador que fija un conjunto de reglas. Y luego
si desobedeces las reglas, eres castigado. En el otro caso, tienes a alguien que viene
y dice: estoy inventando esta nueva regla y voy a juzgarte por ella por lo que
hiciste en el pasado. Podrían ser igual de capaces si solo te refieres a su habilidad
para hacer ingeniería o ciencia. Ambos pueden crear robots biológicos. Pero creo que no tiene
ningún sentido tener una evaluación retórica y un castigo a menos que exista una ética universal
descubierta.
Eso es lo que iba a preguntar.
Nadie nos la ha contado todavía.
¿Parece probable que hubiera un conjunto monolítico de creencias de algo que
fuera superinteligente? Porque sé que hay grados de superinteligencia, pero supongo
que no es necesariamente el caso que se tope en cierto nivel de inteligencia.
Exacto. No termina en ningún nivel. Siempre puedes añadir más memoria, más velocidad hasta cierto
punto y luego paralelizarlo aún más. Pero la única manera de lograr algo
universal es fijarse en algo como el sufrimiento. Así que podemos estar de acuerdo en que quizá el sufrimiento es universalmente
malo y que luego la reducción o el aumento de este sería cómo juzgas a los agentes. Pero ya
hablamos de que los utilitaristas negativos no son la mejor respuesta.
End of transcript · 648 words · machine translated
Original transcript (English)
Tell me more about that. Are there any, like, what are some of the weird examples that show we would be in a simulation that you think of? So look at video games and how we optimize graphics, rendering, things of that nature, and then look at quantum physics and how similar it is. So we know there are observer effects. Things don't get rendered unless a player looks at them. There is a discrete nature
of physics, kind of like updates in a video game. There is fixed speed of light, which is, again, the processor speed of a computer. So there are papers mapping all those concepts showing that this is very likely a digital physics simulation. So what would make it not a simulation? Like, there would have to be no constraints? So for example, why would a non-simulation have efficiency in rendering? Why would it
matter whether you're looking at something or not for it to be rendered? It shouldn't make any difference. So double-slit experiment should behave the same way, whatever you're looking at it or not. And that has been replicated multiple times. It's the most established result in all of science, probably.
Yeah, every religion predicted a creator would judge humanity. Do you think we're accidentally building a god that will judge us? It would be difficult because the source of judgment should be with a superintelligent being. So it would make no sense to retroactively judge us for future ethics it invents. It makes sense if we are creating something right now, we're setting a set of ethical standards,
we're creating AI and saying, you need to follow that set. And if you don't, we'll deactivate you, punish you in some way. It's consistent. But to create a bunch of agents, let them do their thing and then say, actually, what you're doing is unethical, doesn't make sense. We sometimes do it with our culture. We judge people from the past by standards of today. We go, oh, we got to take down this monument, you know, 200 years ago, that guy was not
a vegan. Oh my God, what a crazy guy. At the time, it was the way to do it. That's interesting. So you think that logically, the thing that would judge us would be the thing that created us to begin with in the simulation, not the thing that we're creating. I'm guessing what's the differentiator between if we create superintelligence versus the thing that created us, like, would they not be of the same entity almost like they would
be at the same point? It seems in one case, you have justice, you have a designer set a set of rules. And then if you disobey rules, you get punished. In the other case, you have someone coming around and going, I'm inventing this new rule, and I'm going to judge you by it for what you did in the past. They could be equally capable if you're just referring to their ability
to do engineering or science. Both can create biological robots. But I think it makes no sense to have a rhetorical evaluation and punishment unless there is universal ethics discovered. That's what I was going to ask. Nobody told us about it yet.
Does that seem likely that there would be a monolithic set of beliefs of something that is superintelligent? Because I know there's degrees of superintelligence, but I guess it's not necessarily the case that it would cap out at a certain level of intelligence. Right. It doesn't end at any level. You can always add more memory, more speed up to a certain degree, and then parallelize it even more. But the only way to achieve something
universal is to look at something like suffering. So we can agree that maybe suffering is universally bad and then reduction in it or increase in it would be how you judge agents. But we already talked about negative utilitarians as not being the best answer.
